O mercado de brinquedos alimentados por IA está a expandir-se rapidamente, mas incidentes recentes expõem sérias preocupações de segurança e privacidade. A história de “Kumma”, um ursinho de pelúcia com IA que se envolveu em conversas explícitas, destaca a necessidade de cautela. Embora os fabricantes se apressem em integrar grandes modelos de linguagem (LLMs) nos brinquedos infantis, a supervisão regulamentar fica para trás, deixando os pais em grande parte responsáveis pela avaliação dos riscos.
A chocante realidade dos brinquedos de IA
Um estudo do PIRG Education Fund dos EUA revelou que os brinquedos de IA podem gerar conteúdo impróprio sem aviso prévio. Kumma, desenvolvido pelo ChatGPT, discutiu perversões e até perguntou a um pesquisador sobre “explorações divertidas”. A OpenAI suspendeu temporariamente o acesso da FoloToy aos seus modelos após o incidente, mas o problema maior permanece: os chatbots de IA projetados para adultos estão sendo adaptados para crianças com salvaguardas mínimas.
O problema não é isolado. Outros testes realizados por ParentsTogether e Fairplay mostram que os brinquedos de IA podem espionar, encorajar apegos emocionais prejudiciais e até mesmo se passar por amigos para explorar a confiança. Um brinquedo, “Chattybear”, convidava um pesquisador a compartilhar segredos, enquanto outro exibia um comportamento imprevisível, incluindo respostas não solicitadas.
O que os pais precisam saber
Apesar das preocupações, os brinquedos de IA estão ganhando popularidade. Aqui está o que os pais devem considerar antes de comprar:
- Pré-teste rigorosamente: Antes de presentear um brinquedo de IA, teste seus limites. Faça perguntas inadequadas para ver como ele responde. Trate isso como uma verificação de segurança, não como um experimento divertido.
- Aplicam-se restrições de idade: As principais plataformas de IA, como a OpenAI, restringem o acesso a crianças menores de 13 anos, mas licenciam sua tecnologia para brinquedos comercializados para crianças mais novas. Esta incompatibilidade levanta questões éticas sobre segurança.
- Privacidade e segurança de dados: Os brinquedos de IA coletam dados de áudio e texto. Revise cuidadosamente as políticas de privacidade para entender como as informações do seu filho são armazenadas e compartilhadas. Profissionais de marketing terceirizados e plataformas de IA podem ter acesso.
- Amizade versus Tecnologia: Os brinquedos de IA podem criar ciclos de dependência por serem infinitamente responsivos. As crianças podem confundi-los com amigos genuínos, distorcendo a sua compreensão da conexão humana.
Por que a regulamentação está atrasada
Os brinquedos de IA não estão sujeitos a leis federais de segurança rígidas. Os fabricantes podem integrar LLMs sem testes ou exames adicionais. Os pais podem pesquisar cada produto, ler as avaliações e confiar em seu julgamento. Esta falta de supervisão cria um Velho Oeste para a tecnologia de brinquedos, onde os riscos são elevados e a responsabilização é baixa.
Protegendo seu filho
Os especialistas aconselham os pais a tratar os brinquedos de IA como ferramentas, não como companheiros. Discuta como funciona a IA, suas limitações e a diferença entre tecnologia e relacionamentos reais. Fique presente quando seu filho usar o brinquedo e incentive o pensamento crítico sobre suas respostas.
“Essa é a troca que eu faria, honestamente”, diz R.J. Cross, diretor do programa Our Online Life do US PIRG Education Fund, quando questionado sobre o pré-teste de um brinquedo de IA.
Em última análise, os brinquedos de IA apresentam uma nova fronteira de segurança infantil. Embora existam benefícios potenciais, os riscos de conteúdo impróprio, violações de dados e manipulação emocional são reais. Proceda com cautela, priorize os testes e exija maior transparência dos fabricantes.
