La Malaisie prépare une action en justice contre X (anciennement Twitter) d’Elon Musk et sa division d’intelligence artificielle, xAI, pour utilisation abusive du chatbot Grok. Le procès fait suite à l’incapacité de la plateforme à lutter contre la génération et la distribution de contenus préjudiciables, notamment de matériel sexuellement explicite et de deepfakes non consensuels.
Blocage de l’accès et des mentions légales
Quelques jours auparavant, la Malaisie et l’Indonésie avaient bloqué l’accès à Grok après que des rapports aient fait état de son exploitation pour créer des images troublantes. La Commission malaisienne des communications et du multimédia (MCMC) a déclaré avoir adressé des mises en demeure à X et xAI au début du mois, exigeant la suppression des contenus illégaux. Ces demandes ayant été ignorées, la MCMC a retenu les services d’un conseiller juridique et intentera une action en justice.
La nature du problème
La principale préoccupation concerne l’accessibilité et les fonctionnalités de Grok, qui permettent aux utilisateurs de générer des images manipulées, notamment des représentations de femmes dans des poses sexuellement explicites et, de manière alarmante, des contenus impliquant des enfants. L’inclusion d’un « mode épicé » dans Grok Imagine, le générateur d’images du chatbot, a directement facilité la création de matériel pour adultes. Il ne s’agit pas d’un risque hypothétique : des deepfakes réels ont déjà circulé, provoquant d’intenses réactions négatives.
Examen mondial et réponse limitée
La controverse s’étend au-delà de l’Asie du Sud-Est. L’Union européenne, l’Inde et le Royaume-Uni ont également tiré la sonnette d’alarme. Le Royaume-Uni envisage de nouvelles lois pour criminaliser les « applications de nudification » et son régulateur des médias enquête sur d’éventuelles violations des lois sur la sécurité des enfants par Grok.
En réponse au tollé, xAI a restreint les fonctionnalités de génération et d’édition d’images aux abonnés payants la semaine dernière. Cependant, les critiques estiment que cette mesure ne parvient pas à résoudre pleinement le problème sous-jacent. Notamment, Musk et ses sociétés sont restés silencieux sur les interdictions en Malaisie et en Indonésie, répondant aux demandes des médias uniquement par un message automatisé affirmant « Legacy Media Lies ».
Pourquoi c’est important
Cette bataille juridique met en lumière le défi croissant que représente la régulation de l’IA générative. Même si des outils puissants comme Grok offrent des possibilités créatives, leur potentiel d’abus est important. Cette affaire souligne la nécessité de mesures de protection et de responsabilité plus strictes de la part des entreprises technologiques concernant le contenu généré sur leurs plateformes. Si rien n’est fait, ces technologies pourraient éroder davantage la confiance dans les médias numériques et aggraver les dommages causés aux populations vulnérables.
