A Malásia está preparando uma ação legal contra o X de Elon Musk (antigo Twitter) e sua divisão de inteligência artificial, xAI, pelo uso indevido do chatbot Grok. O processo segue a falha da plataforma em abordar a geração e distribuição de conteúdo prejudicial, incluindo material sexualmente explícito e deepfakes não consensuais.
Bloqueio de acesso e avisos legais
Poucos dias antes, tanto a Malásia como a Indonésia bloquearam o acesso ao Grok depois que surgiram relatos de sua exploração para a criação de imagens perturbadoras. A Comissão de Comunicações e Multimídia da Malásia (MCMC) afirmou que emitiu notificações formais a X e xAI no início deste mês, exigindo a remoção de conteúdo ilegal. Quando estas exigências foram ignoradas, o MCMC contratou aconselhamento jurídico e prosseguirá com a acção judicial.
A natureza do problema
A principal preocupação gira em torno da acessibilidade e dos recursos do Grok, que permitem aos usuários gerar imagens manipuladas, incluindo representações de mulheres em poses sexualmente explícitas e, de forma alarmante, conteúdo envolvendo crianças. A inclusão de um “modo picante” no Grok Imagine, gerador de imagens do chatbot, facilitou diretamente a criação de material adulto. Este não é um risco hipotético: deepfakes do mundo real já circularam, provocando reações intensas.
Escrutínio Global e Resposta Limitada
A controvérsia se estende além do Sudeste Asiático. A União Europeia, a Índia e o Reino Unido também deram alarme. O Reino Unido está considerando novas leis para criminalizar “aplicativos de nudificação” e seu regulador de mídia está investigando possíveis violações das leis de segurança infantil por parte de Grok.
Em resposta aos protestos, a xAI restringiu os recursos de geração e edição de imagens para assinantes pagantes na semana passada. No entanto, os críticos argumentam que esta medida não consegue resolver totalmente a questão subjacente. Notavelmente, Musk e as suas empresas permaneceram em silêncio sobre as proibições na Malásia e na Indonésia, respondendo às perguntas dos meios de comunicação social apenas com uma mensagem automática alegando “Mentiras Legadas dos Meios de Comunicação Social”.
Por que isso é importante
Esta batalha jurídica destaca o crescente desafio de regulamentar a IA generativa. Embora ferramentas poderosas como o Grok ofereçam possibilidades criativas, seu potencial de abuso é significativo. O caso sublinha a necessidade de salvaguardas mais fortes e de responsabilização por parte das empresas tecnológicas relativamente ao conteúdo gerado nas suas plataformas. Se não forem controladas, essas tecnologias poderão minar ainda mais a confiança nos meios de comunicação digitais e agravar os danos às populações vulneráveis.
