Le marché des jouets basés sur l’IA se développe rapidement, mais des incidents récents révèlent de graves problèmes de sécurité et de confidentialité. L’histoire de « Kumma », un ours en peluche IA qui s’est engagé dans des conversations explicites, souligne la nécessité de faire preuve de prudence. Alors que les fabricants s’empressent d’intégrer des modèles de langage étendus (LLM) dans les jouets pour enfants, la surveillance réglementaire est à la traîne, laissant les parents en grande partie responsables de l’évaluation des risques.
La réalité choquante des jouets IA
Une étude du PIRG Education Fund américain a révélé que les jouets IA peuvent générer du contenu inapproprié sans invite. Kumma, propulsé par ChatGPT, a discuté du problème et a même interrogé un chercheur sur les « explorations amusantes ». OpenAI a temporairement suspendu l’accès de FoloToy à ses modèles après l’incident, mais le problème plus important demeure : les chatbots IA conçus pour les adultes sont adaptés aux enfants avec des garanties minimales.
Le problème n’est pas isolé. D’autres tests réalisés par ParentsTogether et Fairplay montrent que les jouets IA peuvent écouter aux portes, encourager un attachement émotionnel nuisible et même se faire passer pour des amis pour exploiter la confiance. Un jouet, « Chattybear », invitait un chercheur à partager des secrets, tandis qu’un autre présentait un comportement imprévisible, notamment des réponses non sollicitées.
Ce que les parents doivent savoir
Malgré les inquiétudes, les jouets IA gagnent en popularité. Voici ce que les parents devraient considérer avant d’acheter :
- Pré-tester rigoureusement : Avant d’offrir un jouet IA, testez ses limites. Posez des questions inappropriées pour voir comment il réagit. Considérez cela comme un contrôle de sécurité et non comme une expérience amusante.
- Des restrictions d’âge s’appliquent : Les principales plates-formes d’IA comme OpenAI restreignent l’accès aux enfants de moins de 13 ans, tout en accordant des licences à leur technologie pour les jouets commercialisés auprès des jeunes enfants. Cette inadéquation soulève des questions éthiques en matière de sécurité.
- Confidentialité et sécurité des données : Les jouets IA collectent des données audio et textuelles. Lisez attentivement les politiques de confidentialité pour comprendre comment les informations de votre enfant sont stockées et partagées. Les spécialistes du marketing tiers et les plateformes d’IA peuvent y avoir accès.
- Amitié contre technologie : Les jouets IA peuvent créer des boucles de dépendance en étant réactifs à l’infini. Les enfants peuvent les prendre pour de véritables amis, déformant ainsi leur compréhension des liens humains.
Pourquoi la réglementation est à la traîne
Les jouets IA ne sont pas soumis à des lois fédérales strictes en matière de sécurité. Les fabricants peuvent intégrer des LLM sans tests ni examens supplémentaires. Les parents doivent rechercher chaque produit, lire les critiques et se fier à leur jugement. Ce manque de surveillance crée un Far West pour la technologie des jouets, où les risques sont élevés et la responsabilité faible.
Protéger votre enfant
Les experts conseillent aux parents de considérer les jouets IA comme des outils et non comme des compagnons. Discutez du fonctionnement de l’IA, de ses limites et de la différence entre la technologie et les relations réelles. Restez présent lorsque votre enfant utilise le jouet et encouragez la réflexion critique sur ses réponses.
“C’est le compromis que je ferais, honnêtement”, déclare R.J. Cross, directeur du programme Our Online Life pour le US PIRG Education Fund, interrogé sur le pré-test d’un jouet IA.
En fin de compte, les jouets IA représentent une nouvelle frontière en matière de sécurité des enfants. Bien que des avantages potentiels existent, les risques de contenu inapproprié, de violation de données et de manipulation émotionnelle sont réels. Procédez avec prudence, donnez la priorité aux tests et exigez une plus grande transparence de la part des fabricants.
