KI & Datenschutz – Checkliste für den Einsatz künstlicher Intelligenz
KI-Tools und Chat-GPT dominieren nicht nur die Medienlandschaft, sondern werden auch zunehmend im beruflichen Alltag eingesetzt. Dabei stellen sich viele Fragen in Bezug auf Datenschutz und Compliance.
Eine der größten Hürden ist dabei der Datenschutz. Erst vor wenigen Tagen wurde ChatGPT von der italienischen Datenschutzbehörde gesperrt und auch in Deutschland richten Datenschutzbehören ihren Fokus auf KI-Dienste. Damit steigt auch die Sorge bei den Anwendern.
In der folgenden Übersicht erfahren Sie, welche Datenschutzaspekte Sie beim Einsatz von KI-Diensten beachten sollten.
Vollständigkeit: Diese Liste ist nicht abschließend und der Verfasser freut sich über Ergänzungen. Außerdem handelt es sich um “Einstiegspunkte”. Das bedeutet, die Liste ersetzt keine individuelle Prüfung, für die Sie am besten datenschutzrechtlich versierte Fachpersonen konsultieren sollten.
Inhalt des Beitrags:
Verarbeitung personenbezogener Daten und DGVO-Relevanz
Datenschutzrechtlich ist der Einsatz von KI relevant, wenn dabei personenbezogene Daten verarbeitet werden. Darunter fallen Daten, die es ermöglichen, eine lebende Person zu identifizieren (Art. 4 DSGVO), wie Namen, Adressen und Telefonnummern, aber auch alle mit diesen Daten verbundenen Informationen (z.B. Schriftstücke)..
- Keine DSGVO-Relevanz, da kein Personenbezug: Generierung von Code, Bildern oder Marketingtexten.
- DSGVO-Relevanz, da Personenbezug: Einspeisen von Schriftstücken mit Angaben zu Personen, Hochladen von Bildern fremder Personen als Vorlage, KI über eine Schnittstelle mit einem E-Mail-Programm verbinden oder Datensätze mit Nutzer- oder Kundendaten auswerten, Nutzung durch Mitarbeiter mit personenbezogenen Accountdaten (z.B. max.mueller@unternehmen-xyz.de).
Im Ergebnis ist es sinnvoll, Daten vor dem Einsatz im Rahmen der KI zu anonymisieren. Dieser Grundsatz der Datenminimierung gilt generell, insbesondere wenn die DSGVO zur Anwendung kommt.
Privatpersonen: Die DSGVO ist nicht anwendbar, wenn die Verarbeitung nur persönlicher und familiärer Natur ist. Diese Grenze ist jedoch überschritten, wenn fremde personenbezogene Daten im Internet veröffentlicht werden. Die Verbreitung von Bildaufnahmen von Personen außerhalb des persönlichen Bereichs ist grundsätzlich untersagt. Ob die KI eher einem Cloud-Dienst gleichkommt, der der Privatsphäre zugeordnet wird, oder eher einem öffentlichen Facebook-Profil, ist unklar und kann beidseitig argumentiert werden. Bei Eingaben von Personennamen oder ähnlichen Einzeldaten sind hier eher keine Probleme zu erwarten. Wer jedoch Bilder fremder Personen hochlädt, sollte diese Personen zur Sicherheit vorab um Erlaubnis fragen.
Zulässigkeit und Rechtsgrundlage des Einsatzes der KI
Ein explizites KI-Verbot existiert zwar (noch) nicht. Aber die DSGVO ist so aufgebaut, dass jede Verarbeitung von personenbezogenen Daten zuerst verboten und gesondert gerechtfertigt werden muss.
Die DSGVO erlaubt die Verarbeitung in den folgenden Fällen:
- Erforderlich zur Erfüllung von Vertragspflichten: Diese Rechtsgrundlage kommt vor allem dann zur Anwendung, wenn die KI als Arbeitsmittel eingesetzt wird (Art. 6 Abs. 1 lit. b) DSGVO). Beispielsweise, wenn eine Agentur ihren Kunden den Einsatz von KI als Arbeitsmittel anpreist, ist es eindeutig erforderlich, diese KI einzusetzen. Aber je stärker die KI in den Alltag integriert wird, desto eher kann sie als erforderlich angesehen werden.
- Berechtigte Interessen: Praktisch alle nicht verbotenen Interessen sind erlaubt, so insbesondere betriebswirtschaftliche Interessen (Art. 6 Abs. 1 lit. f) DSGVO). Allerdings dürfen die Schutzinteressen der betroffenen Personen nicht überwiegen. Hier besteht ein Problem darin, dass bei vielen Diensten unklar ist, wie sie Daten verarbeiten (sog. “Blackbox”-Problem). Sie sind aber nachweispflichtig sind, dass die Verarbeitung datenschutzkonform erfolgt.
- Einwilligung: Die Einwilligung ist eine Ausweichnorm, die dann in Frage kommt, wenn sonst keine Erlaubnis greift (Art. 6 Abs. 1 lit. a) DSGVO). Sie hat den Nachteil, dass sie jederzeit widerrufen werden kann und z.B. bei Minderjährigen erst ab einem bestimmten Alter anwendbar ist (z.B. Deutschland ab 16 Jahren, Österreich ab 14 Jahren). Ferner ist eine Einwilligung nur dann wirksam, wenn die betroffene Person hinreichend über die Verarbeitungsprozesse und Risiken informiert wurde, was einen gewissen Erläuterungsaufwand erfordert.
Dies ist nur eine Auswahl von Rechtsgrundlagen, die sich je nach Einsatzumfeld (Unternehmen oder Behörden) oder Art der Daten ändern können (bei besonderen Kategorien von Daten, wie z.B. Gesundheitsdaten, gelten noch strengere Anforderungen).
Eine Erlaubnisgrundlage zu finden ist zudem nur der erste Schritt. Es müssen stets auch die Interessen der betroffenen Personen beachtet und abgewogen werden. Dies gilt auch für die folgenden Datenschutzaspekte in diesem Beitrag..
Privacy by Design
Der in Art. 25 DSGVO als “Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen” bezeichnete Grundsatz verlangt, dass Sie sich vor dem Einsatz von KI-Software folgende Überlegungen machen:
- Warum eine KI-Software eingesetzt werden muss: Bevor Sie personenbezogene Daten einer KI übermitteln, sollten Sie begründen, warum der geplante Zweck der KI-Nutzung nicht auf anderen datenschutzfreundlicheren Wegen erreicht werden könnte.
- Warum es diese eine KI-Software sein muss: Bevor Sie sich für ein System entscheiden, sollten Sie prüfen, ob es datenschutzfreundlichere Alternativen gibt (andere Anbieter, Einsatz von KI auf eigenem Server, etc.).
- Warum Eingaben nicht anonymisiert werden können: Sie sollten erklären, warum Sie personenbezogene Daten an die KI übermitteln und z.B. eine Entfernung von Namen nicht möglich ist.
Das sind einige der Punkte der Prüfung. Allerdings existiert ein großer Argumentationsspielraum, z.B. was Kosten und Fähigkeit alternativer Systeme als Gegenargument für deren Einsatz angeht.
Verbot automatisierter Entscheidungen im Einzelfall
Die DSGVO automatische Entscheidungen, von denen der Abschluss von Verträgen oder sonstige erhebliche Entscheidungen abhängen (Art. 22 DSGVO). Typische Beispiele sind z.B. eine automatische Bonitätsprüfung mit folgendem Ausschluss von Kunden im Hinblick auf z.B. den Rechnungskauf oder automatische Bewerberauswahl.
In solchen Fällen wird daher eine Einwilligung der betroffenen Personen, strenge Erforderlichkeit oder eine menschliche Endprüfung der maschinellen Entscheidung notwendig.
In jedem Fall müssen die betroffenen Personen darüber informiert werden, wenn sie von automatisierten Entscheidungen im Einzelfall betroffen sind.
Verantwortlichkeit und Auftragsverarbeitung beim Einsatz von KI
Ein wesentlicher Aspekt der DSGVO ist die Feststellung der datenschutzrechtlichen Verantwortlichkeit für die Verarbeitungsprozesse. Danach bestimmt sich z.B. welche Arten von Verträgen geschlossen werden müssen und wer für etwaige Rechtsverstöße haftet. Als mögliche Konstellationen kommen in Frage:
- Alleinverantwortung: KI-Anbieter ist alleine für die Verarbeitung im KI-System verantwortlich. Sie sind nur für die Eingabe verantwortlich.
- Auftragsverarbeitung: KI-Anbieter ist Ihr weisungsgebundener Auftragsverarbeiter und Sie sind für die Verarbeitungsprozesse bei dem Anbieter verantwortlich.
- Gemeinsame Verantwortlichkeit: KI-Anbieter und Sie sind gemeinsam verantwortlich, weil Sie die Daten zuführen und wie der Anbieter ein Interesse an dem Verbessern der KI haben
Welche dieser Konstellationen zutrifft, ist derzeit nicht klar und wird von der Art des verwendeten Systems und dessen Einsatzes abhängen.
OpenAI, der Anbieter von ChatGPT, sieht sich z.B. als Auftragsverarbeiter im Hinblick auf die Nutzung via Schnittstelle (API) und stellt einen entsprechenden Auftragsverarbeitungsvertrag zur Verfügung. Ob diese Einschätzung zutreffend ist, kann derzeit nicht gesagt werden, aber immerhin ist so die Nutzung der API ein Stück “rechtssicherer”.
Information der Auftraggeber: Wenn Sie personenbezogene Daten im Auftrag von Kunden verarbeiten und dabei eine KI einsetzen wollen, dann müssen Sie dies den Kunden mitteilen. Je nach Vereinbarung im Auftragsverarbeitungsvertrag kann eine Genehmigung der Kunden erforderlich sein.
EU-US-Datentransfers
Mit der oben diskutierten datenschutzrechtlichen Verantwortlichkeit geht auch die Verantwortung für Datenübertragungen außerhalb der EU, bei KI-Diensten vornehmlich in die USA, einher (Art. 44 DSGVO).
Wenn personenbezogene Daten außerhalb der EU, z.B. in den USA, verarbeitet werden, müssen Sie als datenschutzrechtlich Verantwortlicher auch die Zulässigkeit dieser Datenübertragungen prüfen. Zum Beispiel sollten Sie die Anbieter fragen, ob sie sogenannte Standardvertragsklauseln bereitstellen können.
Auskunfts- und Löschungsrechte
Mit der oben genannten datenschutzrechtlichen Verantwortlichkeit geht auch die Verpflichtung zur Erfüllung der Rechte betroffener Personen einher (§ 15 bis 21 DSGVO). Das heißt, Sie sollten auf Anfragen dieser Art vorbereitet sein:
“Bitte teilen Sie mir mit, welche personenbezogenen Daten von mir Sie im Rahmen von KI-Verfahren verarbeiten, übermitteln mir eine Kopie dieser Daten und löschen diese anschließend, da ich deren Verarbeitung widerspreche.”
Diese Anfrage müssen Sie immer, auch wenn negativ, unverzüglich beantworten. Wenn ein Fall der Auftragsverarbeitung oder gemeinsamer Verantwortlichkeit vorliegt und tatsächlich personenbezogene Daten in die KI eingespeist wurden, dann könnte die Auskunft problematisch werden. Umso mehr hilft es, wenn Sie darauf verweisen können, dass personenbezogene Daten gelöscht werden.
Zwar bietet z.B. OpenAI ein Opt-Out-Formular an. Ob und in welchem Umfang es effektiv ist, kann derzeit nicht verifiziert werden.
Datenschutz-Folgenabschätzung
Im Fall besonders risikobehafteter Verarbeitungen, was vor allem beim Einsatz neuer Technologien, Verarbeitung von personenbezogenen Daten im großen Umfang oder besonderer Kategorien von Daten (z.B. Gesundheitsdaten) der Fall ist, muss eine sogenannte Datenschutz-Folgenabschätzung durchgeführt werden (Art. 35 DSGVO).
Das bedeutet, Sie müssen zuerst prüfen, ob eine solche Risikosituation vorliegt und falls ja, die entsprechende Datenschutz-Folgenabschätzung durchführen.
Rechenschaftspflichten
Bei allen Prüfungspunkten sollten Sie immer davon ausgehen, dass die Beweislast für den rechtmäßigen Einsatz bei Ihnen liegt. Das bedeutet, dass Sie die in diesem Beitrag genannten Voraussetzungen der zulässigen Nutzung nachweisen müssen
In der Praxis bedeutet dies, dass Sie alle Aspekte der Nutzung, angefangen bei der Prüfung der Zulässigkeit, protokollieren sollten.
Verzeichnis von Verarbeitungstätigkeiten
Das Datenschutzmanagement erfordert ein internes Verzeichnis von Verarbeitungsprozessen (Art. 30 DSGVO).
In diesem Verzeichnis muss auch der Einsatz der KI und der eingesetzten Anbieter unter Nennung der Zwecke, der Rechtsgrundlagen und der verarbeiteten Daten eingetragen werden.
Datenschutzerklärung
Das zum internen Verzeichnis von Verarbeitungstätigkeiten gesagte gilt auch für die Datenschutzerklärung. Setzen Sie z.B. im Rahmen des Kundensupports ChatGPT ein, dann sollten Sie die Angaben zur Verarbeitung von Kundendaten im Rahmen des Service um Angaben zu dem Diensteanbieter OpenAI als Datenempfänger aufnehmen.
Geschäftsgeheimnisse
In diesem Beitrag geht es vornehmlich um den Datenschutz. Allerdings sollten Sie beim Einsatz von KI auch die eigenen und fremden Geschäftsgeheimnisse beachten. Ansonsten drohen Ihnen die folgenden Nachteile:
- Eigene Geschäftsgeheimnisse: Wenn Sie z.B. eigene Geschäftsgeheimnisse gegenüber der KI preisgeben (s. dazu einen Vorfall bei Samsung) und sie so anderen zugänglich werden, verlieren Sie den Geschäftsgeheimnisschutz mangels angemessener Schutzmaßnahmen (s. § 2 Nr. 1 b) GeschGehG).
- Fremde Geschäftsgeheimnisse: Wenn Sie wiederum fremde Geschäftsgeheimnisse, z.B. im Rahmen der Auswertung der Geschäftskorrespondenz preisgeben, dann liegt ein Verstoß gegen vertragliche Schutzpflichten und u.U. gegen ein mit einer Vertragsstrafe bewehrtes NDA vor.
Natürlich ist die Verletzung der Schutzpflicht oder von Geschäftsgeheimnissen, wie auch des Datenschutzes, eine Frage des Nachweises. Anderseits wissen Sie nicht, wie freigiebig eine KI oder deren Anbieter mit den Eingaben umgehen.
Zusammenfassung und Praxisempfehlung
Derzeit gibt es beim Einsatz von KI in Bezug auf den Datenschutz noch viele offene Fragen. Die Anbieter tragen mit ihrer Intransparenz in Bezug auf ihre datenschutzrechtliche Rolle und Offenlegung interner Prozesse nicht gerade zur Klärung bei.
Wenn KI-Anwendungen im Geschäftsalltag integriert werden sollen, besteht hier noch erheblicher Nachbesserungsbedarf. Neben einer Verbesserung der Transparenz bei den Verarbeitungsprozessen wären auch technische Lösungen, wie z.B. eine lokale Anonymisierung von personenbezogenen Daten, bevor sie der KI zugeführt werden, sinnvoll.
Bis dahin sollten Sie vor allem darauf achten, dass Ihre Eingaben keine personenbezogenen Daten enthalten. Ansonsten sollten Sie das Risiko so weit wie möglich reduzieren und dabei die Vorgaben zur Protokollierung, Ergänzung des Verzeichnisses von Verarbeitungstätigkeiten und Ihrer Datenschutzerklärung beachten.
Hallo,
kann die KI selbst auch als „Verantwortlicher“ angesehen werden da sie ja auch autonom handelt in einigen Fällen?
VG B.P.
Nein, die KI wird weder rechtlich noch sonst als rechtsfähig (d.h. zur Teilnahme am Rechtsverkehr berechtigt) betrachtet.
Vielen Dank für die detaillierte Darstellung der aktuellen Situation.
Ich habe eine Frage zu personenbezogenen Daten:
Ich transkribiere eine Podcast-Episode. Mit dieser Transkription füttere ich z.B. ChatGPT4 und erhalte eine Zusammenfassung für einen Blogbeitrag passend zur veröffentlichten Podcast-Episode. Die Episode ist ja ohnehin öffentlich, also kein Geschäftsgeheimnis. Außerdem könnte ich diese Zusammenfassung über DeepL Write noch textlich optimieren.
Wie würden Sie diese Art der KI-Nutzung in Bezug auf Ihren letzten Absatz im Fazit sehen? Und: Wie würden Sie hier die Urheberschaft des Textes deklarieren?
Vielen Dank, Heike Burch