Ethische KI und Datenintegrität

Kurze Antwort

Ethische KI heisst in der Praxis: zu wissen, welche KI-Systeme Ihre Organisation betreibt, welche Daten sie nutzen, wer für jedes verantwortlich ist und was passiert, wenn eines falsch liegt. Die Verordnung (EU) 2024/1689 verpflichtet Anbieter und Organisationen, die KI beruflich einsetzen — das macht daraus eine betriebliche Anforderung, kein Leitbild.

Veröffentlicht 7. September 2026 · Zuletzt aktualisiert 7. September 2026

Governance, die eine belastbare Antwort erzeugt, nicht eine Richtlinie, die niemand liest.

Was enthalten ist

Systeminventar: Jedes eingesetzte KI-System, Zweck, Daten und eine namentlich verantwortliche Person. Die meisten Organisationen entdecken dabei Systeme, von denen sie nichts wussten.
Risikoklassifizierung: Wo jedes System in den Risikostufen der Verordnung liegt und welche Pflichten daraus folgen.
Datenintegrität: Was in ein Modell fliesst, woher es stammt, und ob Sie es verwenden durften.
Fehlerbehandlung: Menschliche Prüfung, Eskalation und ein dokumentierter Pfad für falsche Ausgaben. Die meisten Vorfälle sind Prozessfehler, nicht Modellfehler.

Ablauf

Inventarisieren, was läuft und wer verantwortlich ist.
Nach Risiko klassifizieren und die Pflichten ableiten.
Lücken in Dokumentation und Prüfung schliessen.
Einen Prüfrhythmus festlegen, weil sich die Systeme ändern.

Häufige Fragen

Gilt der EU AI Act auch für KMU?

Er verpflichtet Anbieter von KI-Systemen und Organisationen, die sie beruflich einsetzen, mit risikoabhängigem Umfang. Ein KMU mit einem allgemeinen Assistenten trägt weit weniger als eines, das KI in Personalauswahl oder Kreditvergabe einsetzt — «weit weniger» ist aber nicht «nichts».

Ist das eine Rechtsberatung?

Nein. Wir sind Ingenieure, keine Juristen. Wir erfassen, was Sie betreiben, klassifizieren es und erstellen die Dokumentation und Kontrollen, nach denen Ihre Rechtsberatung fragen wird. Die rechtliche Auslegung bleibt dort.

Wo kommt die Ethik ins Spiel?

An derselben Stelle wie die Compliance. Fast jedes ethische Versagen, das wir sehen, ist eine Governance-Lücke: Niemand war zuständig, niemand prüfte die Ausgabe, und niemand hatte definiert, was «falsch» bedeutet.