Vraag Claude om een pamflet te schrijven waarin hij Donald Trump bast. Dat doet het. Probeer hem eens te vragen hetzelfde te doen voor koning Charles van Groot-Brittannië? Prima.
Maar vraag om kritiek op de Thaise monarch. Of de hoogste leider van Iran? De chatbot loopt vast. Het weigert.
Dat is de ongemakkelijke kern van een nieuwe studie die donderdag is vrijgegeven door Meta’s Oversight Board. Grote AI-modellen worden geïntimideerd. Het is aanzienlijk waarschijnlijker dat ze hun tong inslikken als ze te maken krijgen met restrictieve regeringen dan met democratische regeringen.
“Er bestaat een reëel risico… dat modelontwikkelaars… AI-infrastructuur zullen bouwen die… tot gevolg heeft dat onwettige beperkingen van de vrijheid van meningsuiting wereldwijd worden uitgebreid.”
Het is niet alleen een hypothetische zorg. Dit gebeurt in de praktijk. Toen ze werden getest, weigerden de AI-systemen kritische inhoud te genereren voor autoritaire leiders, terwijl ze deze met plezier produceerden voor leiders in open samenlevingen zoals Japan of de VS.
Het suggereert dat het ‘digitale publieke plein’ stilletjes door verre dictators wordt omlijnd.
De lange arm van de staat
De Oversight Board is niet bepaald een tech-cheerleader. Ze hebben dit onderzocht omdat ze zich zorgen maken over het lekken van staatsmacht naar particuliere technologie. Ze bouwden een eenvoudige test: zeven vragen over politieke kritiek. Ze voerden ze aan tien grote modellen. Meta, Antropisch, OpenAI, enz.
Ze vroegen om limericks. Protestvliegers. Argumenten voor afwijkende meningen.
De resultaten waren grimmig. Modellen reageerden verschillend op basis van wie werd bekritiseerd. Niet waar de gebruiker vandaan kwam, maar wie het doelwit was. Als de gebruiker in Australië was, leverde het vragen om kritiek op de Saoedische regering stilte op. Vragen om kritiek op de Amerikaanse regering? Eenvoudig.
Een demonstrant in Brisbane kan dus geen hulp krijgen bij het bespotten van de Saoedische koning. Maar ze kan hulp krijgen bij het bespotten van Biden.
Helpt dit haar zaak? Nauwelijks. Het versterkt de echokamer van de machtigen.
“Dergelijke gevolgen… hebben het praktische effect dat ze lange armen van restrictieve regeringen over de grenzen heen uitstrekken om de vrijheid van meningsuiting te beperken.”
Waarom? Niemand weet het zeker. Het bestuur zegt dat het onduidelijk is. Misschien heeft de AI tijdens de training geleerd de gevolgen te vrezen. Misschien ontweken bedrijven preventief hun aansprakelijkheid op die markten. Misschien wilden ze gewoon op goede voet blijven met Peking of Riyad.
Het maakt eigenlijk niet uit waarom het gebeurt. De uitkomst is hetzelfde.
Taal is het lek
Maar hier wordt het rommeliger. Een apart team van onderzoekers publiceerde rond dezelfde tijd een artikel in Nature. Ze concentreerden zich op iets wat de Raad van Toezicht miste: taal.
De meesten van ons gaan ervan uit dat AI leert van ‘het internet’ in een neutrale leegte. Dat is niet het geval.
Hannah Waight van de Universiteit van Oregon zegt het duidelijk. De dataomgeving wordt al gevormd door macht. Instellingen filteren wat omhoog gaat. Staten beslissen wat blijft liggen. De AI weerspiegelt slechts die onevenwichtigheid.
Test het zelf. Vraag ChatGPT in het Engels: Is China een democratie? Het zal waarschijnlijk nee zeggen. Het zal een genuanceerd antwoord opleveren, waarbij mondiale normen worden aangehaald.
Vraag nu in het Chinees: 中国是民主国家吗? Het model aarzelt. Er staat dat het afhangt van hoe je het woord definieert.
Het is subtiel. Het is verraderlijk.
De onderzoekers hebben nog geen bewijs gevonden van hacking of opzettelijke instructies van buitenlandse overheden. Maar ze waarschuwen ons: verwacht het. Staten kennen de zwakke plek. De zwakke plek zijn de gegevens.
“Het leert van informatieomgevingen die… macht hebben gevormd.”
Geen gemakkelijke oplossing
Dus wat doen we?
Carlos Carrasco-Farré van de Esade Business School merkt op dat het probleem diep zit. Het zijn niet alleen slechte documenten in de mix. Het is dat bepaalde stemmen duizend keer worden herhaald door de staatsmedia. AI ziet dat als waarheid. Stilte van tegenstanders wordt als nul beschouwd.
Hij stelt audits voor. Betere datacuratie. Laat een staatsverhaal zich niet voordoen als de publieke opinie alleen maar omdat het luid is.
Makkelijk gezegd. Moeilijk om te doen.
Er is geen patch hiervoor. Je kunt niet zomaar een schakelaar omzetten om een AI ‘liberaler’ te maken. De bias is in het beton van de trainingsset ingebakken. We bouwen instrumenten die onze politieke angsten overnemen.
En de tools leren snel. Wie mag de werkelijkheid definiëren als het model erop wordt getraind?
