Wem gehört die Entscheidung, ob ein KI-System diskriminiert? Und wer trägt die Verantwortung, wenn es das tut? Solche Fragen klingen zunächst philosophisch, sind aber längst operative Realität für CIOs und IT-Manager. Mit dem EU AI Act steigt der regulatorische Druck rapide, auch für Schweizer Unternehmen. Die ethische, rechtliche und technische Steuerung von Künstlicher Intelligenz ist nicht mehr Kür, sondern Pflicht. Doch wie sieht wirksame KI-Governance in der Schweizer Unternehmenspraxis konkret aus?
Warum KI-Governance jetzt auf die CIO-Agenda gehört
Während regulatorische Anforderungen wie der EU AI Act, ISO/IEC 42001 oder der kommende Schweizer Datenschutzrahmen zunehmen, steigen auch die Erwartungen der Kunden und der Öffentlichkeit an verantwortungsvolle KI. CIOs und IT-Manager müssen nicht nur rechtliche Compliance sicherstellen, sondern auch ethische Leitplanken setzen. Ohne klare Governance-Strukturen entsteht ein gefährlicher Blindflug mit Reputationsrisiken, diskriminierenden Modellen und ungeklärten Haftungsfragen.
Der Weg zur implementierten KI-Governance: 5 Schritte, die funktionieren
Basierend auf Erfahrungen mit Schweizer Unternehmen aus Industrie, Versicherungen und Gesundheitswesen empfehlen sich folgende Schritte:
-
Schritt 1: Governance-Ziele definieren
Welche Risiken will das Unternehmen mit KI adressieren: Fairness, Datenschutz, Sicherheit? Diese Ziele müssen auf Unternehmensstrategie und IT-Strategie abgestimmt sein. -
Schritt 2: Verantwortlichkeiten festlegen
Analog zur Domänen-/Tower-Struktur in der klassischen IT-Governance sollten KI-Governance-Rollen etabliert werden (z. B. „KI-Tower Lead“). Weitere Rollen wie „KI Owner“ schaffen ebenfalls klare Verantwortungen. -
Schritt 3: Regelwerke und Kontrollen definieren
Beispiel: „Alle KI-Modelle mit Einfluss auf Kreditentscheide müssen durch eine Bias-Analyse mit dokumentierter Freigabe durch das KI Board gehen.“ Technische und manuelle Kontrollen sichern die Einhaltung. -
Schritt 4: Eskalationspfade und Monitoring etablieren
Abweichungen (z. B. fehlerhafte Entscheidungen oder Bedenken) müssen über definierte Gremien behandelt werden. Beispielsweise ein monatliches KI-Board. -
Schritt 5: Integration in bestehende IT-Governance
KI-Governance darf kein paralleles System sein. Erfolgreiche Unternehmen integrieren Governance von KI in ihre bestehende IT-Management- und Risikostruktur.
Typische Stolpersteine und wie Schweizer Unternehmen sie lösen
-
Fehlende Klarheit in der Verantwortung: In einem Finanzdienstleister führte die unklare Rollenverteilung dazu, dass niemand ein fehlerhaftes Modell stoppen konnte. Lösung: Tower-Struktur mit klaren Eskalationswegen (z. B. KI-Tower → CIO).
-
Technik ohne Ethik: Ein Industrieunternehmen implementierte KI zur Personalrekrutierung ohne Bias-Analyse. Erst nach einem PR-Vorfall wurde ein KI-Review-Prozess eingeführt.
-
Überschätzte Selbstregulierung: Einige Unternehmen verlassen sich auf ihre Data Scientists. Erfolgreiche Organisationen hingegen koppeln jede Modellfreigabe an ein unabhängiges Kontrollgremium.
Fazit & Handlungsempfehlung
3 Fragen zur Optimierung Ihrer KI-Governance:
-
Gibt es in Ihrer Organisation eine definierte Stelle, die Risiken von KI bewertet und behandelt?
-
Sind Ihre KI-Kontrollen in die bestehende IT-Governance integriert oder leben sie in Silos?
-
Wissen Sie, welches Ihrer Systeme aktuell KI nutzt und ob es DSG-konform ist?
Die 3 wichtigsten nächsten Schritte:
-
Aufbau eines interdisziplinären KI-Governance-Teams (IT, Recht, Business, Ethik)
-
Definition von Regelwerken und Kontrollprozessen (integriert in bestehende IT-Governance)
-
Einführung eines laufenden Performance- und Risiko-Monitorings für KI-Anwendungen
