Zusammenspiel KI und Datenschutz.

Der Einsatz von (auch eigens) entwickelten KI-Systemen in Unternehmen nimmt immer mehr zu. Gleichzeitig entwickelt sich die Gesetzgebung weiter. Sei es durch die unlängst in Kraft getretene KI-Verordnung, wie auch die altbekannte Datenschutz-Grundverordnung, wenn es um personenbezogene Daten in KI-Systemen geht. Die neusten Entwicklungen im Zusammenspiel von KI und Datenschutz haben wir im Folgenden zusammengefasst.

Was ist ein KI-System?

Allein diese Frage lässt sich nicht leicht beantworten. Eine Definition findet sich in Artikel 3 der KI-Verordnung. Da die Definition allein trotzdem nicht selbsterklärend ist, hat die Europäische Kommission mit Guidelines versucht, nachzuhelfen. Diese sind nicht verbindlich, denn maßgeblich ist (erst) die Rechtsprechung (EuGH). Trotzdem lassen sich 7 Merkmale identifizieren:

1. Maschinenbasiertes System: Ein KI-System besteht aus Hardware- und Softwarekomponenten, die Modelltraining, Datenverarbeitung und automatisierte Entscheidungsfindung ermöglichen.
2. Autonomie: Das System kann mit unterschiedlichen Autonomiestufen arbeiten und agiert teilweise unabhängig von menschlicher Beteiligung.
3. Adaptivität: Nach der Bereitstellung kann das System selbstlernende Fähigkeiten zeigen und sein Verhalten anpassen.
4. Ziele des KI-Systems: KI-Systeme arbeiten nach expliziten oder impliziten Zielen, die klar definiert oder aus dem Verhalten des Systems abgeleitet sein können.
5. Schlussfolgerung zur Generierung von Ausgaben: Das System muss in der Lage sein, aus Eingaben Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen abzuleiten.
6. Ausgaben, die physische oder virtuelle Umgebungen beeinflussen können: Ein zentrales Merkmal von KI-Systemen ist die Fähigkeit, physische oder virtuelle Umgebungen zu beeinflussen.
7. Interaktion mit der Umgebung: Das System muss seine Umgebung beeinflussen können, sei es physisch (z.B. Roboterarm) oder virtuell (z.B. digitale Räume, Datenflüsse).

Datenschutz bei KI-Systemen

Der Europäische Datenschutzausschuss (EDSA) hat in einer Stellungnahme die Herausforderungen des Datenschutzes bei KI-Modellen beleuchtet. Anders als bei vorherigen Einschätzungen (z.B. der Hamburger Datenschutzbehörde) wird grundsätzlich davon ausgegangen, dass es sich bei personenbezogenen Daten im KI-Modell nicht nur um Vektoren oder Token handelt. Denn in der Phase des Trainings werden personenbezogene Daten in das Modell „eingesogen“. Auch ein Output kann dann wiederum personenbezogene Daten (in klarer Form) enthalten. Somit gilt es, zwei Punkte beim Zusammenspiel aus KI und Datenschutz zu beachten:

• Anonymität: Ein KI-Modell gilt als anonym, wenn die Wahrscheinlichkeit einer direkten Extraktion personenbezogener Daten (pbD) und pbD im Output als gering angesehen werden kann.
• Prüfung der Anonymität: Sie umfasst die Auswahl der Quellen, Datenvorbereitung und -minimierung, methodologische Entscheidungen beim Training (z.B. differential privacy), Maßnahmen bezüglich der Modellausgaben, KI-Modell-Analyse (Richtlinien, Audits, etc.), KI-Modell-Testing und Resilienz gegenüber Angriffen sowie umfassende Dokumentation.

Berechtigtes Interesse als Rechtsgrundlage im Datenschutz

Ferner wurde eine Konkretisierung vorgenommen, ob und wann das berechtigte Interesse als Rechtsgrundlage für die Verarbeitung personenbezogener Daten in KI-Modellen herangezogen werden kann. Die kurze Antwort ist ja. Nichtsdestotrotz ist es immer eine Einzelfallbetrachtung, die dem bekannten Dreiklang bei der Prüfung des berechtigten Interesses folgt:

1. Legitime Ziele: Die Verarbeitung muss legitime Ziele verfolgen.
2. Erforderlichkeit: Die Verarbeitung muss zur Zielerreichung erforderlich sein.
3. Interessenabwägung: Eine sorgfältige Abwägung der Interessen der betroffenen Personen und des Verantwortlichen muss durchgeführt werden.

Allgemeine Datenschutz-Tipps für Unternehmen bei Verwendung von KI

Neben den spezifischen Anforderungen für KI-Systeme gibt es allgemeine Datenschutzmaßnahmen, die Unternehmen beachten sollten:

• Datenschutz-Folgenabschätzung (DSFA): Führen Sie regelmäßig DSFAs durch, um potenzielle Risiken für die Rechte und Freiheiten der betroffenen Personen zu identifizieren und zu minimieren.
• Richtlinien: Implementieren Sie geeignete Richtlinien zur Nutzung und gegebenenfalls Entwicklung von KI in Ihrem Unternehmen.
• Schulung und Sensibilisierung: Schulen Sie Ihre Mitarbeiter regelmäßig in Datenschutzfragen und im Hinblick auf die KI-Verordnung und sensibilisieren Sie sie für den verantwortungsvollen Umgang mit personenbezogenen Daten.
• Dokumentation: Führen Sie eine umfassende Dokumentation aller Datenschutzmaßnahmen und -prozesse, um die Einhaltung der DSGVO nachweisen zu können.

Link zum EDSA-Paper: edpb_opinion_202428_ai-models_en.pdf

Häufige Fragen und Antworten rund um KI und Datenschutz

Was ist laut KI‑Verordnung überhaupt ein KI‑System?

Ein KI‑System ist gemäß der KI‑Verordnung ein maschinenbasiertes System, das aus Hardware‑ und Softwarekomponenten besteht und Modelltraining, Datenverarbeitung sowie automatisierte Entscheidungen ermöglicht. Die Europäische Kommission benennt sieben typische Merkmale: Autonomie, Adaptivität, zielgerichtetes Verhalten, Fähigkeit zur Schlussfolgerung, Erzeugung von Ausgaben, Einfluss auf physische oder digitale Umgebungen sowie Interaktion mit der Umgebung.

Warum sind personenbezogene Daten im KI‑Modell ein datenschutzrechtliches Problem?

Der Europäische Datenschutzausschuss (EDSA) geht davon aus, dass personenbezogene Daten beim Training eines Modells tatsächlich „eingesogen“ werden. Auch der Output eines Modells kann wiederum personenbezogene Daten enthalten. Deshalb müssen Organisationen besondere Risiken berücksichtigen – insbesondere die Gefahr der Re‑Identifizierung. Ein KI‑Modell gilt nur dann als anonym, wenn eine Extraktion personenbezogener Daten aus Modell oder Output mit hoher Wahrscheinlichkeit ausgeschlossen ist.

Welche Pflichten hat eine Organisation beim Einsatz von KI‑Systemen?

Organisationen müssen sowohl die Anforderungen der KI‑Verordnung als auch der DSGVO berücksichtigen, sobald personenbezogene Daten verarbeitet werden. Dazu gehören eine klare Zweckbindung, die Auswahl der richtigen Rechtsgrundlage, vertragliche Absicherung (z. B. AV‑Verträge), Dokumentationspflichten und technische wie organisatorische Schutzmaßnahmen.

Wie lässt sich KI datenschutzkonform in Ogranisationen einsetzen?

Wir empfehlen, den Einsatz nicht freigegebener KI‑Tools zu unterbinden, AV‑Verträge abzuschließen, die Verarbeitungstätigkeiten korrekt zu dokumentieren und internationale Datenübermittlungen nach DSGVO zu prüfen. Zusätzlich wird die Durchführung einer Datenschutz‑Folgenabschätzung (DSFA) empfohlen – bei hohem Risiko ist sie nach Art. 35 DSGVO verpflichtend. Auch der organisatorische Rahmen, etwa durch die Sperrung nicht freigegebener Tools, ist entscheidend.

Wie positionieren sich KI‑Anbieter wie Microsoft oder OpenAI zum Datenschutz?

Generell müssen Unternehmen ein gewisses Maß an Vertrauen in die Angaben der Anbieter legen, da KI‑Modelle technisch schwer vollständig zu prüfen sind. Microsoft betont etwa, dass Datenverarbeitungen im Copilot nur mit Zustimmung des Kunden stattfinden. Dennoch bleibt die datenschutzrechtliche Verantwortung beim Unternehmen – insbesondere bei der sicheren Nutzung durch Mitarbeitende und beim Schutz sensibler interner Daten.