Mit der exponentiellen Zunahme von GenAI-Nutzung sind viele Bedenken hinsichtlich Datensicherheit und Privatsphäre entstanden. Laut dem AI, Algorithmic, and Automation Incidents and Controversies Repository (AIAAIC) wurden im Jahr 2021 26-mal mehr KI-bezogene Vorfälle gemeldet als noch 2012. Dies liegt nicht nur am verstärkten Einsatz von KI, sondern auch am gestiegenen Bewusstsein für deren Missbrauch. Zu den gemeldeten Vorfällen zählen Gesichtserkennungstechnologien zur Verfolgung von Bandenmitgliedern sowie Überwachungssysteme, die den emotionalen Zustand von Schülern im Klassenzimmer erfassen und bewerten [1].
Verletzung der Privatsphäre durch GenAI
Es wird festgestellt, dass GenAI sensible personenbezogene Daten speichern und reproduzieren kann. Selbst wenn diese Daten nur einmal in den Trainingsdaten vorkommen, können sie potenziell an Angreifer oder unbefugte Dritte weitergegeben werden [2]. Studien zeigen, dass solche Modelle vertrauliche Informationen wortwörtlich ausgeben können, wenn sie dazu aufgefordert werden [3]. Ein konkretes Beispiel ist der Datenschutzverstoß bei ChatGPT, bei dem Benutzer-Chats an externe Stellen weitergegeben wurden, was die Privatsphäre der Nutzer verletzt hat.
Auch im Bereich der Bildgenerierung gibt es Probleme. DALL-E 3 und Stable Diffusion können einzelne Bilder aus ihren Trainingsdaten speichern und bei der Bildgenerierung ausgeben. Dies wirft nicht nur Datenschutzfragen auf, sondern auch urheberrechtliche Bedenken [4].
Rechtliche und ethische Fragen
OpenAI argumentiert, dass die Nutzung personenbezogener Daten für das Training von KI-Modellen aus „berechtigtem Interesse“ erfolgt. Da ChatGPT jedoch stark auf nicht lizenzierte Internetdaten angewiesen ist, ist fraglich, ob die Nutzungsrechte für diese Daten tatsächlich vorliegen – unabhängig davon, ob die Daten öffentlich zugänglich sind [5]. Dies hat dazu geführt, dass immer mehr Organisationen und Länder ChatGPT verboten oder eingeschränkt haben. Italien hat beispielsweise OpenAI aufgefordert, die personenbezogenen Daten italienischer Nutzer nicht mehr in den Trainingsdaten zu verwenden. Als Reaktion darauf hat OpenAI den Zugang zu ChatGPT für italienische Nutzer gesperrt [6].
Datenleck von Unternehmensinformationen
Ein weiteres Problem ist das Datenleck von vertraulichen Unternehmensinformationen. Ein bekanntes Beispiel ist der Vorfall bei Samsung, bei dem Mitarbeiter aus Versehen vertrauliche Daten wie Quellcode und interne Protokolle in ChatGPT eingegeben haben. Dadurch gelangten Samsungs Geschäftsgeheimnisse in die Hände von OpenAI. Das Unternehmen hat nun keine Möglichkeit, diese sensiblen Daten löschen zu lassen, was die Risiken der Nutzung von KI-Tools in Unternehmensumgebungen verdeutlicht.
Gegenmaßnahme
Angesichts dieser Herausforderungen ergreifen Unternehmen zunehmend Maßnahmen, um ihre Geschäftsgeheimnisse zu schützen. Eine mögliche Lösung besteht darin, den Chatverlauf zu deaktivieren, um zu verhindern, dass die Chats in die Trainingsdaten der KI aufgenommen werden.
Andere Unternehmen haben die Nutzung von ChatGPT vollständig verboten oder interne KI-Lösungen entwickelt. Ein Beispiel hierfür ist „Direct Chat“ von Mercedes-Benz, das es ermöglicht, Unternehmensinformationen sicher in Gesprächen mit der KI zu nutzen. Die Entwicklung unternehmensinterner KI-Systeme in Zusammenarbeit mit KI-Anbietern ist ein weiterer vielversprechender Ansatz. Solche Systeme können sicherstellen, dass vertrauliche Informationen nicht an externe Stellen weitergegeben werden und gleichzeitig die Vorteile der KI-Technologie nutzbar machen.
Um diese Herausforderungen in Bezug auf Datensicherheit zu bewältigen, brauchen wir KI-Systeme, die sicher, transparent und verantwortungsbewusst sind. Unternehmen und Regulierungsbehörden müssen gemeinsam daran arbeiten, klare Richtlinien und Lösungen zu entwickeln, die sowohl Innovationen fördern als auch die Privatsphäre und Sicherheit der Nutzer schützen.
Die Diskussion über die ethischen und rechtlichen Implikationen von KI wird weiterhin von zentraler Bedeutung sein, insbesondere wenn es darum geht, die Grenzen zwischen Nutzen und Missbrauch dieser Technologien zu ziehen. Es liegt an uns allen, sicherzustellen, dass die Vorteile der KI nicht auf Kosten unserer Privatsphäre und Sicherheit gehen.
Bild: Getty Images / juststock
