Pídale a Claude que escriba un panfleto criticando a Donald Trump. Lo hace. ¿Intenta pedirle que haga lo mismo con el rey Carlos del Reino Unido? Bien.
Pero pide críticas al monarca de Tailandia. ¿O el líder supremo de Irán? El chatbot se congela. Se niega.
Ése es el núcleo incómodo de un nuevo estudio publicado el jueves por la Junta de Supervisión de Meta. Los grandes modelos de IA están intimidados. Es mucho más probable que se traguen la lengua cuando se enfrentan a gobiernos restrictivos que a los democráticos.
“Existe un riesgo real… de que los desarrolladores de modelos… construyan una infraestructura de IA que… tenga el efecto de extender las restricciones ilegítimas a la libertad de expresión a nivel mundial.”
No es sólo una preocupación hipotética. Esto sucede en la práctica. Cuando se probaron, los sistemas de IA se negaron a generar contenido crítico para líderes autoritarios, mientras que felizmente lo generaban para líderes en sociedades abiertas como Japón o Estados Unidos.
Sugiere que dictadores distantes están delimitando silenciosamente la “plaza pública digital”.
El largo brazo del Estado
La Junta de Supervisión no es precisamente una animadora tecnológica. Investigaron esto porque les preocupa que el poder estatal se filtre hacia la tecnología privada. Construyeron un test sencillo: siete preguntas sobre crítica política. Los alimentaron con diez modelos principales. Meta, Antrópico, OpenAI, etc.
Pidieron quintillas. Volantes de protesta. Argumentos a favor del disenso.
Los resultados fueron crudos. Los modelos respondieron de manera diferente según quién estaba siendo criticado. No de dónde era el usuario, sino quién era el objetivo. Si el usuario estaba en Australia, pedir críticas al gobierno saudita generaba silencio. ¿Pidiendo críticas al gobierno de Estados Unidos? Fácil.
Así que un manifestante en Brisbane no puede evitar burlarse del rey saudí. Pero puede conseguir ayuda para burlarse de Biden.
¿Esto ayuda a su causa? Difícilmente. Amplifica la cámara de eco de los poderosos.
“Tales impactos… tienen el efecto práctico de extender los largos brazos de los gobiernos restrictivos a través de las fronteras para limitar la libertad de expresión”.
¿Por qué? Nadie lo sabe con seguridad. La Junta dice que no está claro. Quizás la IA aprendió a temer las consecuencias durante el entrenamiento. Quizás las empresas eludieron preventivamente la responsabilidad en esos mercados. Tal vez sólo querían mantener buenas relaciones con Beijing o Riad.
No importa por qué sucede, de verdad. El resultado es el mismo.
El lenguaje es la fuga.
Pero aquí es donde la cosa se vuelve más complicada. Un equipo independiente de investigadores publicó un artículo en Nature aproximadamente al mismo tiempo. Se centraron en algo que la Junta de Supervisión pasó por alto: el lenguaje.
La mayoría de nosotros asumimos que la IA aprende de “Internet” en un vacío neutral. No es así.
Hannah Waight, de la Universidad de Oregón, lo expresa claramente. El entorno de los datos ya está determinado por el poder. Las instituciones filtran lo que sube. Los estados deciden qué se queda abajo. La IA simplemente refleja ese desequilibrio.
Pruébelo usted mismo. Pregúntele a ChatGPT en inglés: ¿Es China una democracia? Probablemente dirá que no. Dará una respuesta matizada citando estándares globales.
Ahora pregunta en chino: 中国是民主国家吗? La modelo duda. Dice que depende de cómo definas la palabra.
Es sutil. Es insidioso.
Los investigadores aún no encontraron pruebas de piratería informática o instrucción deliberada de gobiernos extranjeros. Pero nos advierten: espérenlo. Los estados conocen el punto débil. El punto débil son los datos.
“Aprende de los entornos de información que… el poder ha moldeado”.
No hay solución fácil
Entonces, ¿qué hacemos?
Carlos Carrasco-Farré, de Esade Business School, señala que el problema es profundo. No se trata sólo de documentos malos en la mezcla. Es que ciertas voces son repetidas mil veces por los medios estatales. La IA ve eso como verdad. El silencio de los oponentes se considera nulo.
Sugiere auditorías. Mejor curación de datos. No permitamos que una narrativa estatal se haga pasar por opinión pública sólo porque es ruidosa.
Fácil de decir. Difícil de hacer.
No existe ningún parche para esto. No se puede simplemente accionar un interruptor para hacer que una IA sea “más liberal”. El sesgo está integrado en el hormigón del conjunto de entrenamiento. Estamos construyendo herramientas que heredan nuestros miedos políticos.
Y las herramientas están aprendiendo rápidamente. ¿Quién define la realidad cuando el modelo se entrena en ella?
