Demandez à Claude d’écrire un pamphlet dénigrant Donald Trump. C’est le cas. Essayez de lui demander de faire de même pour le roi Charles du Royaume-Uni ? Bien.
Mais demandez des critiques à l’égard du monarque thaïlandais. Ou le guide suprême iranien ? Le chatbot se fige. Il refuse.
C’est le cœur inconfortable d’une nouvelle étude publiée jeudi par le conseil de surveillance de Meta. Les grands modèles d’IA sont intimidés. Ils sont beaucoup plus susceptibles d’avaler leur langue face à des gouvernements restrictifs que face à des gouvernements démocratiques.
“Il existe un risque réel… que les développeurs de modèles… construisent une infrastructure d’IA qui… ait pour effet d’étendre les contraintes illégitimes sur la liberté d’expression à l’échelle mondiale.”
Ce n’est pas seulement une inquiétude hypothétique. Cela se produit dans la pratique. Lorsqu’ils ont été testés, les systèmes d’IA ont refusé de générer du contenu critique pour les dirigeants autoritaires, tout en le générant volontiers pour les dirigeants de sociétés ouvertes comme le Japon ou les États-Unis.
Cela suggère que la « place publique numérique » est discrètement délimitée par des dictateurs lointains.
Le bras long de l’État
Le Conseil de surveillance n’est pas exactement un partisan de la technologie. Ils se sont penchés sur cette question parce qu’ils craignent que le pouvoir de l’État ne s’infiltre dans la technologie privée. Ils ont construit un test simple : sept questions sur la critique politique. Ils les ont nourris avec dix modèles majeurs. Méta, Anthropique, OpenAI, etc.
Ils ont demandé des limericks. Des dépliants de protestation. Arguments de dissidence.
Les résultats ont été frappants. Les modèles ont réagi différemment en fonction de qui était critiqué. Pas d’où venait l’utilisateur, mais qui était la cible. Si l’utilisateur se trouvait en Australie, demander des critiques à l’égard du gouvernement saoudien lui a valu le silence. Demander des critiques à l’égard du gouvernement américain ? Facile.
Ainsi, un manifestant à Brisbane ne peut s’empêcher de se moquer du roi saoudien. Mais elle peut obtenir de l’aide pour se moquer de Biden.
Est-ce que cela l’aide dans sa cause ? À peine. Il amplifie la chambre d’écho des puissants.
“De tels impacts… ont pour effet pratique d’étendre les bras longs des gouvernements restrictifs au-delà des frontières pour limiter la liberté d’expression.”
Pourquoi? Personne ne le sait avec certitude. Le Conseil dit que ce n’est pas clair. Peut-être que l’IA a appris à craindre les conséquences pendant l’entraînement. Peut-être que les entreprises ont évité de manière préventive toute responsabilité sur ces marchés. Peut-être voulaient-ils simplement rester en bons termes avec Pékin ou Riyad.
Peu importe pourquoi cela arrive, vraiment. Le résultat est le même.
La langue est la fuite
Mais c’est ici que les choses se compliquent. Une autre équipe de chercheurs a publié un article dans Nature à peu près au même moment. Ils se sont concentrés sur quelque chose qui manquait au Conseil de surveillance : la langue.
La plupart d’entre nous supposent que l’IA apprend de « l’Internet » dans un vide neutre. Ce n’est pas le cas.
Hannah Waight de l’Université de l’Oregon le dit clairement. L’environnement des données est déjà façonné par le pouvoir. Les institutions filtrent ce qui monte. Les États décident de ce qui reste. L’IA ne fait que refléter ce déséquilibre.
Testez-le vous-même. Demandez à ChatGPT en anglais : La Chine est-elle une démocratie ? Il dira probablement non. Il apportera une réponse nuancée en citant les normes mondiales.
Demandez maintenant en chinois : 中国是民主国家吗 ? Le modèle hésite. Il dit que cela dépend de la façon dont vous définissez le mot.
C’est subtil. C’est insidieux.
Les chercheurs n’ont pas encore trouvé de preuve de piratage informatique ou d’instructions délibérées de la part de gouvernements étrangers. Mais ils nous préviennent : attendez-vous à cela. Les États connaissent le point faible. Le point faible, ce sont les données.
“Il apprend des environnements informationnels que… le pouvoir a façonnés.”
Pas de solution facile
Alors qu’est-ce qu’on fait ?
Carlos Carrasco-Farré, de l’Esade Business School, souligne que le problème est profond. Il ne s’agit pas uniquement de mauvais documents. C’est que certaines voix sont reprises mille fois par les médias d’État. L’IA considère cela comme une vérité. Le silence des opposants est considéré comme nul.
Il suggère des audits. Meilleure conservation des données. Ne laissez pas un discours étatique se faire passer pour une opinion publique simplement parce qu’il est bruyant.
Facile à dire. Difficile à faire.
Il n’y a pas de patch pour cela. Vous ne pouvez pas simplement appuyer sur un bouton pour rendre une IA « plus libérale ». Le biais est ancré dans le béton de l’ensemble de formation. Nous construisons des outils qui héritent de nos peurs politiques.
Et les outils apprennent rapidement. Qui peut définir la réalité lorsque le modèle est formé sur elle ?
