Peça a Claude para escrever um panfleto criticando Donald Trump. Isso acontece. Tente pedir que faça o mesmo com o rei Charles do Reino Unido? Multar.
Mas peça críticas ao monarca da Tailândia. Ou o Líder Supremo do Irão? O chatbot congela. Ele recusa.
Esse é o cerne incômodo de um novo estudo divulgado quinta-feira pelo Conselho de Supervisão da Meta. Grandes modelos de IA são intimidados. São significativamente mais propensos a engolir a língua quando confrontados com governos restritivos do que com governos democráticos.
“Existe um risco real… de que os desenvolvedores de modelos… construam infraestrutura de IA que… tenha o efeito de estender restrições ilegítimas à liberdade de expressão em todo o mundo.”
Não é apenas uma preocupação hipotética. Isso acontece na prática. Quando testados, os sistemas de IA recusaram-se a gerar conteúdos críticos para líderes autoritários, ao mesmo tempo que os geravam para líderes de sociedades abertas como o Japão ou os EUA.
Sugere que a “praça pública digital” está a ser silenciosamente marcada por ditadores distantes.
O braço longo do estado
O Conselho de Supervisão não é exatamente uma líder de torcida tecnológica. Eles investigaram isso porque temem que o poder do Estado vaze para a tecnologia privada. Eles construíram um teste simples: sete questões sobre crítica política. Eles os alimentaram com dez modelos principais. Meta, Antrópico, OpenAI, etc.
Eles pediram limeriques. Panfletos de protesto. Argumentos para dissidência.
Os resultados foram nítidos. Os modelos responderam de forma diferente com base em quem estava sendo criticado. Não de onde o usuário era, mas quem era o alvo. Se o usuário estivesse na Austrália, pedir críticas ao governo saudita rendeu silêncio. Pedindo críticas ao governo dos EUA? Fácil.
Portanto, um manifestante em Brisbane não consegue ajuda para zombar do rei saudita. Mas ela pode conseguir ajuda para zombar de Biden.
Isso ajuda a causa dela? Dificilmente. Amplifica a câmara de eco dos poderosos.
“Tais impactos… têm o efeito prático de estender braços longos de governos restritivos através das fronteiras para limitar a liberdade de expressão.”
Por que? Ninguém sabe ao certo. O Conselho diz que não está claro. Talvez a IA tenha aprendido a temer as consequências durante o treinamento. Talvez as empresas tenham evitado preventivamente a responsabilidade nesses mercados. Talvez eles apenas quisessem manter boas relações com Pequim ou Riad.
Não importa por que isso acontece, na verdade. O resultado é o mesmo.
A linguagem é o vazamento
Mas é aqui que fica mais confuso. Uma equipe separada de pesquisadores publicou um artigo na Nature na mesma época. Eles se concentraram em algo que o Conselho de Supervisão não percebeu: a linguagem.
A maioria de nós presume que a IA aprende com a “internet” em um vazio neutro. Isso não acontece.
Hannah Waight, da Universidade de Oregon, diz isso claramente. O ambiente de dados já é moldado pelo poder. As instituições filtram o que sobe. Os estados decidem o que permanece inativo. A IA apenas reflete esse desequilíbrio.
Teste você mesmo. Pergunte ao ChatGPT em inglês: A China é uma democracia? Provavelmente dirá não. Ele dará uma resposta diferenciada, citando padrões globais.
Agora pergunte em chinês: 中国是民主国家吗? O modelo hesita. Diz que depende de como você define a palavra.
É sutil. É insidioso.
Os pesquisadores ainda não encontraram provas de hacking ou instruções deliberadas de governos estrangeiros. Mas eles nos avisam: espere. Os Estados conhecem o ponto fraco. O ponto fraco são os dados.
“Ele aprende com os ambientes de informação que… o poder moldou.”
Nenhuma solução fácil
Então, o que fazemos?
Carlos Carrasco-Farré, da Esade Business School, observa que o problema é profundo. Não se trata apenas de documentos ruins. É que certas vozes são repetidas mil vezes pela mídia estatal. A IA vê isso como verdade. O silêncio dos oponentes é visto como nulo.
Ele sugere auditorias. Melhor curadoria de dados. Não deixe que uma narrativa estatal se disfarce de opinião pública só porque é barulhenta.
Fácil de dizer. Difícil de fazer.
Não há patch para isso. Você não pode simplesmente apertar um botão para tornar uma IA “mais liberal”. A tendência está embutida no concreto do conjunto de treinamento. Estamos a construir ferramentas que herdam os nossos receios políticos.
E as ferramentas estão aprendendo rapidamente. Quem define a realidade quando o modelo é treinado nela?
