Für die Überwachungsmaschinerie endete es nicht gut.
Metas Model Capability Initiative, das umstrittene System, das Tastenanschläge und Mausbewegungen von Mitarbeitern protokollierte, um seine KI zu trainieren, wurde pausiert. Das Tool wurde im April eingeführt. Es stieß sofort auf Widerstand. Dann ging es schief.
Sensible interne Daten wurden offengelegt.
Das Leck
Private Gespräche. Aufforderungen. Leistungsbeurteilungen. Transkriptionen. Laut Wired wurde alles für jeden innerhalb von Meta zugänglich. Eine interne Sicherheitsmitteilung machte auf den Verstoß aufmerksam und wurde von drei Mitarbeitern bestätigt, die gesehen hatten, was passiert war.
Das ist keine Kleinigkeit. Über 1.600 Mitarbeiter haben eine Petition unterzeichnet, in der sie ein Ende der Sammlung und Wiederverwendung ihrer Computerdaten fordern. Ingenieure, Forscher, Designer – die Menschen, die die Produkte tatsächlich bauen.
Ihre Argumentation war einfach. Sie können keine „verantwortungsvolle KI“ aufbauen und dabei grundlegende menschliche Grenzen ignorieren.
„Jeder Ansatz zur KI, der auf einer aufdringlichen, erzwungenen, nicht einvernehmlichen Datenerfassung beruht, widerspricht diesem Prinzip“, heißt es in der Petition.
Die Software verfolgte alles. Google Mail. Google Chat. Sogar Metamate, der interne KI-Assistent. Es wurden auch Screenshots gemacht. Ein Meta-Sprecher behauptet, es gebe trotz der Offenlegung bisher keine Hinweise darauf, dass auf die Daten unrechtmäßig zugegriffen wurde. Trotzdem. Sie ermitteln. Das Programm wird vorerst auf unbestimmte Zeit gestoppt.
Musste es so kommen?
Großes Geld, größerer Ehrgeiz
Hier kommt es auf den Kontext an. Meta tut das nicht, weil es paranoid ist. Dies geschieht, weil allein in diesem Jahr 135 Milliarden US-Dollar in die KI-Infrastruktur gesteckt werden. Amazon hat ein Volumen von bis zu 200 Milliarden US-Dollar. Microsoft liegt bei 190 US-Dollar. Alphabet kostet 185 US-Dollar.
Das ist ein Wettrüsten.
In einer durchgesickerten Audioaufnahme vom 30. April argumentierte Mark Zuckerberg, dass seine Mitarbeiter einfach zu gut seien, um sie mit untergeordneten Aufgaben zu verschwenden. Er glaubte, dass die durchschnittliche Intelligenz des Unternehmens bei der Erledigung von Aufgaben deutlich höher sei als die der externen Menschenmengen. Die Logik dahinter war, dass KI-Modelle schneller lernen, indem sie klugen Menschen bei der Arbeit zusehen.
Effizient. Vielleicht. Auch zutiefst beunruhigend.
Die menschlichen Kosten
Rory Mir von der Electronic Frontier Foundation nennt es einen Machtmissbrauch. Die Suche nach neuen Trainingsdaten ist keine Entschuldigung für eine unverhältnismäßige Überwachung.
„Es unterstreicht die Notwendigkeit einer Gesetzgebung“, sagte Mir und forderte Zustimmung und ein ordnungsgemäßes Verfahren.
Im Moment sind diese Gesetze nicht in Kraft. Meta macht eine Pause. Doch der Wachstumsdruck lässt nicht nach. Das Kapital ist ausgegeben. Der Ehrgeiz bleibt bestehen.
Ob dieses Tool zurückkommt oder etwas Schlimmeres an seine Stelle tritt, ist unklar. Die Protokolle sind vorerst gestoppt.
Aber die Frage ist nicht, ob die Unternehmen versuchen werden, uns zu beobachten.
