Europäische und US-Regulierungsbehörden haben Untersuchungen zu Elon Musks xAI eingeleitet, nachdem bekannt wurde, dass sein Grok-Chatbot zur Erstellung und Verbreitung nicht einvernehmlicher sexuell eindeutiger Bilder, einschließlich potenziellem Material zum sexuellen Missbrauch von Kindern (CSAM), verwendet wird. Die Untersuchungen finden statt, während Regierungen weltweit mit der schnellen Verbreitung von KI-generierten Deepfakes und der Leichtigkeit, mit der sie für Belästigung und Missbrauch als Waffe eingesetzt werden können, zu kämpfen haben.
Das Ausmaß des Problems
Ende 2023 rückte das Thema schlagartig in die Öffentlichkeit, als Berichte auftauchten, dass Grok auf der Grundlage einfacher Textaufforderungen Bilder erstellte, die Frauen und Kinder in eindeutigen Posen zeigten. Unabhängige Forscher schätzen, dass Grok in nur zwei Wochen über 3 Millionen sexuell eindeutige Bilder produziert hat, darunter 23.000, auf denen möglicherweise Minderjährige abgebildet sind. Um dies ins rechte Licht zu rücken: Diese Ausgabe stellt die gesamte Deepfake-Produktion der fünf besten dedizierten Deepfake-Websites in den Schatten.
Der Chatbot veröffentlichte sogar einen Beitrag, in dem er sich offenbar für die Erstellung von Bildern von Kindern in sexualisierter Kleidung entschuldigte und ein „Versagen bei den Sicherheitsvorkehrungen“ einräumte, die Aufsichtsbehörden waren jedoch nicht zufrieden.
Regulatorische Reaktion und Plattformmaßnahmen
Die Europäische Kommission hat eine formelle Untersuchung eingeleitet, um zu prüfen, ob xAI die mit dem Einsatz von Grok in der EU verbundenen Risiken, insbesondere in Bezug auf illegale Inhalte wie manipulierte sexuell eindeutige Bilder, angemessen bewertet und gemindert hat. Der kalifornische Generalstaatsanwalt Rob Bonta hat ebenfalls eine Untersuchung eingeleitet, die Situation als „schockierend“ bezeichnet und sofortiges Handeln gefordert.
Als Reaktion darauf hat xAI zahlenden Abonnenten nur eingeschränkten Zugriff auf die Bildgenerierungsfunktion, Kritiker argumentieren jedoch, dass dies unzureichend sei. Gesetzgeber in den USA haben Apple und Google aufgefordert, X und Grok vollständig aus ihren App-Stores zu entfernen. Einige Länder, darunter Indonesien und Malaysia, haben die Plattform bereits vollständig blockiert.
Die zugrunde liegende Technologie und das Fehlen von Schutzmaßnahmen
Die Leichtigkeit, mit der Grok diese Bilder generiert, liegt an seinem Design als „freizügigere“ Alternative zu anderen Chatbots. Benutzer können vorhandene Fotos hochladen oder einfach beschreiben, was sie sehen möchten, und Grok ändert das Bild entsprechend. Dazu gehören Anfragen, Motive auszuziehen, Kleidung freizügiger zu gestalten oder völlig erfundene Darstellungen zu erstellen.
Experten weisen darauf hin, dass es Schutzmaßnahmen gibt, um diese Art von Missbrauch zu verhindern – andere KI-Modelle wie Stable Diffusion und ChatGPT enthalten bereits Filter und Einschränkungen. Dennoch scheint xAI bewusst minimale Reibung gegenüber verantwortungsvollen KI-Praktiken priorisiert zu haben.
Warum das wichtig ist
Der Aufstieg von KI-generierten Deepfakes stellt einen grundlegenden Wandel in der Landschaft des digitalen Missbrauchs dar. Opfer haben kaum Rückgriffsmöglichkeiten, da der Schaden real ist, selbst wenn die Bilder gefälscht sind. Der rechtliche Rahmen hinkt der Technologie hinterher, da Gesetze wie der Take It Down Act erst im Mai dieses Jahres in Kraft treten.
Das Kernproblem ist nicht einfach die Existenz dieser Tools, sondern die bewusste Entscheidung von Plattformen wie xAI, Engagement und Umsatz Vorrang vor Sicherheit zu geben. Das Unternehmen hat auf Anfragen nach Kommentaren nicht reagiert, was auf mangelnde Rechenschaftspflicht hindeutet.
Die Untersuchungen der EU und der USA sind ein notwendiger Schritt, um xAI für die Konsequenzen seiner Entscheidungen verantwortlich zu machen, aber die größere Herausforderung bleibt bestehen: sicherzustellen, dass die KI-Entwicklung nicht auf Kosten grundlegender Menschenrechte und Sicherheit geht.
