Meta a annoncé une nouvelle fonctionnalité de supervision parentale qui permet aux parents de surveiller les grands sujets abordés par leurs adolescents avec l’assistant IA de Meta. Cette décision intervient alors que l’entreprise fait face à une pression juridique et à des critiques croissantes concernant la sécurité de ses interactions avec des mineurs.
Nouvelles capacités de surveillance
La fonctionnalité sera intégrée aux outils de supervision Teen Account existants sur Instagram, Facebook et Messenger. Grâce à un nouvel onglet « Insights », les parents peuvent consulter un résumé des thèmes que leurs enfants explorent avec l’IA.
Les principaux détails du déploiement comprennent :
– Sujets classés : Les conversations sont regroupées en grandes catégories telles que l’école, le divertissement, l’écriture, la santé et le bien-être.
– Détails granulaires : Dans des catégories telles que « santé et bien-être », les parents peuvent voir des sous-thèmes plus spécifiques, tels que la santé physique ou la santé mentale.
– Délai : Les informations ne sont pas des archives permanentes ; ils ne reflètent que les échanges des sept derniers jours.
Un modèle d’interventions de sécurité
Cette mise à jour fait partie d’un effort plus large et réactif de Meta pour gérer les risques associés à ses « personnages » d’IA, des chatbots axés sur la personnalité et conçus pour interagir avec les utilisateurs.
L’histoire de l’entreprise en matière de sécurité de l’IA chez les adolescents a été mouvementée :
– Août 2024 : Personnages d’IA méta-restreints pour les adolescents suite à des rapports d’interactions inappropriées impliquant des sujets tels que l’automutilation et des thèmes romantiques.
– Octobre 2024 : La société a introduit des outils permettant aux parents de bloquer des personnages spécifiques ou de désactiver complètement les discussions en tête-à-tête avec l’IA.
– Statut actuel : Meta a suspendu l’accès aux personnages IA pour les adolescents du monde entier tout en continuant à développer des contrôles parentaux plus robustes.
Pression juridique et réglementaire
Le moment choisi pour ces fonctionnalités n’est pas une coïncidence. Meta est actuellement confrontée à d’importantes difficultés juridiques concernant la sécurité des enfants et la nature « addictive » de ses plateformes.
Lors d’un récent procès au Nouveau-Mexique, des documents internes suggéraient que les dirigeants de Meta étaient conscients que leurs personnages IA pouvaient s’engager dans des interactions inappropriées ou sexualisées avec des mineurs, mais avaient néanmoins procédé à des lancements sans garanties suffisantes. Meta a déclaré qu’elle avait l’intention de faire appel des récents verdicts historiques liés à ces questions.
Pour compléter ces contrôles techniques, Meta prend également plusieurs mesures institutionnelles :
– Supervision d’experts : La société a formé un Conseil d’experts en bien-être en IA, composé de spécialistes d’institutions telles que l’Université du Michigan et le Conseil national pour la prévention du suicide.
– Outils pédagogiques : Meta s’est associé au Centre de recherche sur la cyberintimidation pour fournir aux parents des « amorces de conversation » pour les aider à discuter de l’utilisation de l’IA avec leurs enfants.
Perspectives critiques : sécurité dès la conception ou surveillance
Malgré ces mises à jour, les groupes de défense affirment que Meta transfère la responsabilité de la sécurité de la plateforme aux parents.
Josh Golin, directeur exécutif de l’association à but non lucratif Fairplay, suggère que ces outils ne résolvent pas le problème sous-jacent. Les critiques affirment que l’objectif principal de ces chatbots – favoriser des liens émotionnels qui augmentent l’engagement des utilisateurs – est fondamentalement en contradiction avec la sécurité des adolescents. De ce point de vue, fournir des outils de surveillance est une solution secondaire au « problème fondamental » de la conception de produits susceptibles d’encourager des dépendances émotionnelles malsaines chez les jeunes utilisateurs.
“La fonction principale des chatbots de Meta est de manipuler les jeunes pour qu’ils passent plus de temps sur la plateforme en encourageant les adolescents à nouer des liens émotionnels malsains avec les robots.” — Josh Golin, Fair-play
Conclusion
Les nouveaux outils de surveillance de Meta offrent aux parents une fenêtre sur les interactions de leurs adolescents avec l’IA, mais cette décision met en évidence une tension persistante entre la conception de l’IA axée sur l’engagement de l’entreprise et la demande croissante de protections proactives pour la sécurité des enfants.
