Malasia está preparando acciones legales contra X (anteriormente Twitter) de Elon Musk y su división de inteligencia artificial, xAI, por el uso indebido del chatbot Grok. La demanda se debe a que la plataforma no abordó la generación y distribución de contenido dañino, incluido material sexualmente explícito y deepfakes no consensuados.
Bloqueo de Acceso y Avisos Legales
Apenas unos días antes, tanto Malasia como Indonesia bloquearon el acceso a Grok después de que surgieran informes sobre su explotación para crear imágenes perturbadoras. La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) declaró que emitió avisos formales a X y xAI a principios de este mes, exigiendo la eliminación de contenido ilegal. Cuando estas demandas fueron ignoradas, MCMC contrató asesoría legal y procederá con la acción judicial.
La naturaleza del problema
La principal preocupación gira en torno a la accesibilidad y las funciones de Grok, que permiten a los usuarios generar imágenes manipuladas, incluidas representaciones de mujeres en poses sexualmente explícitas y, alarmantemente, contenido que involucra a niños. La inclusión de un “modo picante” dentro de Grok Imagine, el generador de imágenes del chatbot, facilitó directamente la creación de material para adultos. Este no es un riesgo hipotético: ya han circulado deepfakes del mundo real, lo que ha provocado una intensa reacción.
Escrutinio global y respuesta limitada
La controversia se extiende más allá del sudeste asiático. La Unión Europea, India y el Reino Unido también han dado la voz de alarma. El Reino Unido está considerando nuevas leyes para penalizar las “aplicaciones de nudificación” y su regulador de medios está investigando posibles violaciones de las leyes de seguridad infantil por parte de Grok.
En respuesta a la protesta, xAI restringió las funciones de generación y edición de imágenes a los suscriptores de pago la semana pasada. Sin embargo, los críticos argumentan que esta medida no logra resolver completamente el problema subyacente. En particular, Musk y sus empresas han guardado silencio sobre las prohibiciones en Malasia e Indonesia, respondiendo a las consultas de los medios sólo con un mensaje automatizado que afirma “Mentiras de los medios heredados”.
Por qué esto es importante
Esta batalla legal pone de relieve el creciente desafío de regular la IA generativa. Si bien herramientas poderosas como Grok ofrecen posibilidades creativas, su potencial de abuso es significativo. El caso subraya la necesidad de mayores salvaguardias y responsabilidad por parte de las empresas de tecnología con respecto al contenido generado en sus plataformas. Si no se controlan, estas tecnologías podrían erosionar aún más la confianza en los medios digitales y exacerbar el daño a las poblaciones vulnerables.
