Datenschutzcheck: Erste behördliche Handreichung zum Umgang mit Sprach-KI
Der Hamburgische Datenschutzbeauftragte hat eine Checkliste veröffentlicht, die die Voraussetzungen für den Einsatz von KI definieren soll.
(Bild: Shutterstock - Day Of Victory Studio)
- Joerg Heidrich
ChatGPT & Co. gehören in Unternehmen, Universitäten, Schulen und vielen anderen Organisationen bereits zum Arbeitsalltag. Dabei ist längst nicht rechtlich geklärt, unter welchen Voraussetzungen generative KI überhaupt eingesetzt werden darf. Juristen stochern oft im Nebel, wenn sie Large Language Models (LLM) einschätzen sollen. Dies gilt insbesondere für die datenschutzrechtliche Bewertung von fremdgehosteten LLMs wie ChatGPT von OpenAI, auf die man über ein Webfrontend, ein API oder innerhalb einer anderen Software zugreift.
Das Problem: Unternehmen wie OpenAI betreiben ihre IT-Infrastruktur meist in Cloudumgebungen US-amerikanischer Provider. Woher die für das Training verwendeten Daten genau stammen, ist oft unklar. Und niemand kann darauf vertrauen, dass die von Nutzern mit ihren Fragen mitgegebenen Informationen nicht auch als Trainingsdaten fungieren. De facto handelt es sich bei den KI-Tools der US-Anbieter häufig um regelrechte Blackboxes – ein Umstand, der Datenschützern wenig behagt und der sich nur schwer mit den Vorgaben der Datenschutz-Grundverordnung (DSGVO) vereinbaren lässt.
Hinzu kommt, dass die Sprach-KIs zum Fabulieren neigen und bisweilen falsche Informationen ausspucken, die sich direkt auf einzelne Personen beziehen. Im Sommer 2023 machte beispielsweise ein Fall Schlagzeilen, in dem der Bürgermeister einer australischen Stadt von ChatGPT als Krimineller dargestellt und mit einem Bestechungs- und Korruptionsskandal in Verbindung gebracht wurde. Tatsächlich aber war er an der Aufdeckung eines solchen Skandals beteiligt. Abgesehen von der Verletzung des Persönlichkeitsrechts des Bürgermeisters verstoßen solche Falschmeldungen auch gegen die Bestimmungen der DSGVO.
Immer mehr Wissen. Das digitale Abo für IT und Technik.
BMW iX2 im Test: Elektroauto mit hohem Reifegrad
Fahrrad zum E-Bike aufrüsten: Drei Nachrüstmotoren im Test
Linux-Umstieg: Mit Linux Mint Cinnamon wie gewohnt weiterarbeiten
IT-Gehälter 2024: Das verdienen Security-Experten in Deutschland
Cannabis-Anbau in der Hey-abby-Growbox: Digital gestützt vom Samen bis zur Ernte
Bastel-Projekt: Elektroniklabor für den Küchentisch
Immer mehr Wissen. Das digitale Abo für IT und Technik.
BMW iX2 im Test: Elektroauto mit hohem Reifegrad
Fahrrad zum E-Bike aufrüsten: Drei Nachrüstmotoren im Test
Linux-Umstieg: Mit Linux Mint Cinnamon wie gewohnt weiterarbeiten
IT-Gehälter 2024: Das verdienen Security-Experten in Deutschland
Cannabis-Anbau in der Hey-abby-Growbox: Digital gestützt vom Samen bis zur Ernte