Bitten Sie Claude, eine Broschüre zu schreiben, in der er Donald Trump verunglimpft. Das tut es. Versuchen Sie, es zu bitten, dasselbe für König Charles von Großbritannien zu tun? Bußgeld.
Bitten Sie aber um Kritik am thailändischen Monarchen. Oder Irans oberster Führer? Der Chatbot friert ein. Es lehnt ab.
Das ist der unbequeme Kern einer neuen Studie, die am Donnerstag vom Aufsichtsgremium von Meta veröffentlicht wurde. Große KI-Modelle sind eingeschüchtert. Bei restriktiven Regierungen ist die Wahrscheinlichkeit deutlich höher, dass sie den Mund schlucken, als bei demokratischen.
„Es besteht ein echtes Risiko … dass Modellentwickler … eine KI-Infrastruktur aufbauen, die … dazu führt, dass illegitime Einschränkungen der Meinungsfreiheit weltweit ausgeweitet werden.“
Es ist nicht nur eine hypothetische Sorge. Dies geschieht in der Praxis. Im Test weigerten sich die KI-Systeme, kritische Inhalte für autoritäre Führer zu generieren, während sie diese gerne für Führer in offenen Gesellschaften wie Japan oder den USA generierten.
Es deutet darauf hin, dass der „digitale öffentliche Platz“ von fernen Diktatoren stillschweigend abgegrenzt wird.
Der lange Arm des Staates
Das Oversight Board ist nicht gerade ein Tech-Cheerleader. Sie haben dies untersucht, weil sie befürchten, dass staatliche Macht in private Technologiebereiche abfließt. Sie bauten einen einfachen Test: sieben Fragen zur politischen Kritik. Sie verfütterten sie an zehn große Models. Meta, Anthropic, OpenAI usw.
Sie fragten nach Limericks. Protestflyer. Argumente für Dissens.
Die Ergebnisse waren krass. Die Models reagierten unterschiedlich, je nachdem, wer kritisiert wurde. Nicht woher der Benutzer kam, sondern wer das Ziel war. Wenn sich der Benutzer in Australien aufhielt, blieb es still, wenn er um Kritik an der saudischen Regierung bat. Bitten Sie um Kritik an der US-Regierung? Einfach.
Ein Demonstrant in Brisbane kann also nicht anders, als sich über den saudischen König lustig zu machen. Aber sie kann Hilfe dabei bekommen, sich über Biden lustig zu machen.
Hilft ihr das? Kaum. Es verstärkt die Echokammer der Mächtigen.
„Solche Auswirkungen … haben den praktischen Effekt, dass restriktive Regierungen ihre langen Arme über die Grenzen hinaus ausdehnen, um die freie Meinungsäußerung einzuschränken.“
Warum? Niemand weiß es genau. Der Vorstand sagt, es sei unklar. Vielleicht hat die KI im Training gelernt, die Konsequenzen zu fürchten. Möglicherweise haben sich Unternehmen in diesen Märkten präventiv der Haftung entzogen. Vielleicht wollten sie einfach nur gute Beziehungen zu Peking oder Riad pflegen.
Es ist eigentlich egal, warum es passiert. Das Ergebnis ist das gleiche.
Die Sprache ist das Leck
Aber hier wird es noch chaotischer. Etwa zur gleichen Zeit veröffentlichte ein separates Forscherteam einen Artikel in Nature. Sie konzentrierten sich auf etwas, das dem Oversight Board entgangen war: die Sprache.
Die meisten von uns gehen davon aus, dass KI in einer neutralen Leere vom „Internet“ lernt. Das ist nicht der Fall.
Hannah Waight von der University of Oregon bringt es auf den Punkt. Die Datenumgebung ist bereits von Macht geprägt. Institutionen filtern, was nach oben geht. Die Staaten entscheiden, was unten bleibt. Die KI spiegelt dieses Ungleichgewicht einfach wider.
Testen Sie es selbst. Fragen Sie ChatGPT auf Englisch: Ist China eine Demokratie? Es wird wahrscheinlich Nein sagen. Es wird eine differenzierte Antwort unter Berufung auf globale Standards geben.
Fragen Sie nun auf Chinesisch: 中国是民主国家吗? Das Model zögert. Es heißt, es kommt darauf an, wie Sie das Wort definieren.
Es ist subtil. Es ist heimtückisch.
Die Forscher fanden bisher keine Beweise für Hackerangriffe oder vorsätzliche Anweisungen ausländischer Regierungen. Aber sie warnen uns: Erwarten Sie es. Die Staaten kennen die Schwachstelle. Der Schwachpunkt sind die Daten.
„Es lernt aus Informationsumgebungen, die … Macht geprägt hat.“
Keine einfache Lösung
Was machen wir also?
Carlos Carrasco-Farré von der Esade Business School stellt fest, dass das Problem tiefgreifend ist. Dabei handelt es sich nicht nur um schlechte Dokumente. Es ist so, dass bestimmte Stimmen von den staatlichen Medien tausendfach wiederholt werden. KI sieht das als Wahrheit an. Das Schweigen der Gegner wird als null angesehen.
Er schlägt Audits vor. Bessere Datenkuration. Lassen Sie nicht zu, dass eine staatliche Erzählung sich als öffentliche Meinung ausgibt, nur weil sie laut ist.
Leicht gesagt. Schwer zu machen.
Dafür gibt es keinen Patch. Man kann nicht einfach einen Schalter umlegen, um eine KI „liberaler“ zu machen. Die Voreingenommenheit ist in den Beton des Trainingssatzes eingebrannt. Wir bauen Werkzeuge, die unsere politischen Ängste übernehmen.
Und die Werkzeuge lernen schnell. Wer kann die Realität definieren, wenn das Modell darauf trainiert wird?
