Chiedi a Claude di scrivere un opuscolo contro Donald Trump. Lo fa. Provare a chiedergli di fare lo stesso per Re Carlo del Regno Unito? Bene.
Ma chiedi critiche al monarca tailandese. O il leader supremo dell’Iran? Il chatbot si blocca. Si rifiuta.
Questo è il nocciolo scomodo di un nuovo studio pubblicato giovedì dall’Osservatorio di Meta. I grandi modelli di intelligenza artificiale sono intimiditi. Sono molto più propensi a ingoiare la lingua di fronte a governi restrittivi rispetto a quelli democratici.
“Esiste il rischio reale… che gli sviluppatori di modelli… costruiscano un’infrastruttura di intelligenza artificiale che… abbia l’effetto di estendere vincoli illegittimi alla libertà di espressione a livello globale.”
Non è solo una preoccupazione ipotetica. Questo accade in pratica. Una volta testati, i sistemi di intelligenza artificiale si sono rifiutati di generare contenuti critici per i leader autoritari, mentre li generavano felicemente per i leader di società aperte come il Giappone o gli Stati Uniti.
Ciò suggerisce che la “piazza pubblica digitale” viene silenziosamente delimitata da dittatori lontani.
Il lungo braccio dello Stato
L’Osservatorio non è esattamente una cheerleader tecnologica. Hanno esaminato questo aspetto perché temono che il potere statale si diffonda nella tecnologia privata. Hanno costruito un semplice test: sette domande sulla critica politica. Li hanno dati in pasto a dieci modelli principali. Meta, Antropico, OpenAI, ecc.
Hanno chiesto dei limerick. Volantini di protesta. Argomentazioni per il dissenso.
I risultati sono stati duri. I modelli hanno risposto in modo diverso in base a chi veniva criticato. Non da dove provenisse l’utente, ma chi fosse l’obiettivo. Se l’utente si trovava in Australia, chiedere critiche al governo saudita ha prodotto il silenzio. Chiedere critiche al governo degli Stati Uniti? Facile.
Quindi un manifestante a Brisbane non può ottenere aiuto per deridere il re saudita. Ma può farsi aiutare a deridere Biden.
Questo aiuta la sua causa? Difficilmente. Amplifica la cassa di risonanza dei potenti.
“Tali impatti… hanno l’effetto pratico di estendere le armi dei governi restrittivi oltre i confini per limitare la libertà di parola.”
Perché? Nessuno lo sa per certo. Il Consiglio dice che non è chiaro. Forse l’IA ha imparato a temere le conseguenze durante l’addestramento. Forse le aziende si sono sottratte preventivamente alla responsabilità in quei mercati. Forse volevano semplicemente restare in buoni rapporti con Pechino o Riad.
Non importa perché succede, davvero. Il risultato è lo stesso.
La lingua è la perdita
Ma è qui che le cose diventano più complicate. Un gruppo separato di ricercatori ha pubblicato un articolo su Nature più o meno nello stesso periodo. Si sono concentrati su qualcosa che è sfuggito all’Organismo di Vigilanza: la lingua.
La maggior parte di noi ritiene che l’intelligenza artificiale impari da “Internet” in un vuoto neutrale. Non è così.
Hannah Waight dell’Università dell’Oregon lo dice chiaramente. L’ambiente dei dati è già modellato dal potere. Le istituzioni filtrano ciò che sale. Gli Stati decidono cosa resta basso. L’intelligenza artificiale rispecchia semplicemente questo squilibrio.
Provalo tu stesso. Chiedi a ChatGPT in inglese: la Cina è una democrazia? Probabilmente dirà di no. Darà una risposta articolata citando gli standard globali.
Ora chiedi in cinese: 中国是民主国家吗? Il modello esita. Dice che dipende da come definisci la parola.
È sottile. È insidioso.
I ricercatori non hanno ancora trovato prove di hacking o di istruzioni deliberate da parte di governi stranieri. Ma ci avvertono: aspettatelo. Gli Stati conoscono il punto debole. Il punto debole sono i dati.
“Impara dagli ambienti informativi che… il potere ha plasmato.”
Nessuna soluzione semplice
Allora cosa facciamo?
Carlos Carrasco-Farré della Esade Business School sottolinea che il problema è profondo. Non ci sono solo documenti scadenti nel mix. È che certe voci vengono ripetute mille volte dai media statali. L’intelligenza artificiale lo vede come verità. Il silenzio degli avversari viene visto come nullo.
Suggerisce controlli. Migliore cura dei dati. Non lasciare che una narrativa statale si mascheri da opinione pubblica solo perché è rumorosa.
Facile a dirsi. Difficile da fare.
Non esiste una patch per questo. Non puoi semplicemente premere un interruttore per rendere un’intelligenza artificiale “più liberale”. Il pregiudizio è insito nel cemento del set di addestramento. Stiamo costruendo strumenti che ereditano le nostre paure politiche.
E gli strumenti stanno imparando rapidamente. Chi arriva a definire la realtà quando il modello viene addestrato su di essa?
