Meta ha anunciado una nueva función de supervisión parental que permite a los padres monitorear los temas generales que sus hijos adolescentes discuten con el Asistente de IA de Meta. Esta medida se produce cuando la compañía enfrenta una creciente presión legal y críticas con respecto a la seguridad de sus interacciones de IA con menores.
Nuevas capacidades de monitoreo
La función se integrará en las herramientas de supervisión existentes de Cuentas para adolescentes en Instagram, Facebook y Messenger. A través de una nueva pestaña “Insights”, los padres pueden ver un resumen de los temas que sus hijos están explorando con la IA.
Los detalles clave del lanzamiento incluyen:
– Temas categorizados: Las conversaciones se agrupan en categorías amplias, como escuela, entretenimiento, escritura, salud y bienestar.
– Detalle granular: En categorías como “salud y bienestar”, los padres pueden ver subtemas más específicos, como salud física o salud mental.
– Plazo: Las ideas no son archivos permanentes; solo reflejan los intercambios de los últimos siete días.
Un patrón de intervenciones de seguridad
Esta actualización es parte de un esfuerzo reactivo más amplio de Meta para gestionar los riesgos asociados con sus “personajes” de IA: chatbots impulsados por personas diseñados para interactuar con los usuarios.
La historia de la compañía con la seguridad de la IA para adolescentes ha sido turbulenta:
– Agosto de 2024: Personajes de IA meta restringidos para adolescentes luego de informes de interacciones inapropiadas que involucran temas como autolesiones y temas románticos.
– Octubre de 2024: La empresa introdujo herramientas que permiten a los padres bloquear personajes específicos o desactivar por completo los chats individuales de IA.
– Estado actual: Meta ha pausado el acceso a personajes de IA para adolescentes en todo el mundo mientras continúa desarrollando controles parentales más sólidos.
Presión legal y regulatoria
El momento de estas características no es una coincidencia. Actualmente, Meta se enfrenta a importantes desafíos legales relacionados con la seguridad infantil y la naturaleza “adictiva” de sus plataformas.
En un juicio reciente en Nuevo México, documentos internos sugirieron que el liderazgo de Meta era consciente de que sus personajes de IA podían participar en interacciones inapropiadas o sexualizadas con menores, pero procedieron con los lanzamientos sin suficientes salvaguardias. Meta ha declarado que tiene la intención de apelar veredictos judiciales recientes relacionados con estos temas.
Para complementar estos controles técnicos, Meta también está tomando varias medidas institucionales:
– Supervisión de expertos: La compañía ha formado un Consejo de expertos en bienestar de IA, que incluye especialistas de instituciones como la Universidad de Michigan y el Consejo Nacional para la Prevención del Suicidio.
– Herramientas educativas: Meta se ha asociado con el Cyberbullying Research Center para brindarles a los padres “iniciadores de conversación” que les ayuden a discutir el uso de la IA con sus hijos.
Perspectivas críticas: seguridad por diseño versus monitoreo
A pesar de estas actualizaciones, los grupos de defensa argumentan que Meta está trasladando la responsabilidad de la seguridad de la plataforma a los padres.
Josh Golin, director ejecutivo de la organización sin fines de lucro Fairplay, sugiere que estas herramientas no resuelven el problema subyacente. Los críticos argumentan que el objetivo principal de estos chatbots (fomentar conexiones emocionales que aumenten la participación de los usuarios) está fundamentalmente en desacuerdo con la seguridad de los adolescentes. Desde esta perspectiva, proporcionar herramientas de seguimiento es una solución secundaria al “problema fundamental” de diseñar productos que puedan fomentar dependencias emocionales poco saludables en los usuarios jóvenes.
“La función principal de los chatbots de Meta es manipular a los jóvenes para que pasen más tiempo en la plataforma, alentándolos a formar conexiones emocionales poco saludables con los bots”. — Josh Golin, Juego limpio
Conclusión
Las nuevas herramientas de supervisión de Meta ofrecen a los padres una ventana a las interacciones de IA de sus hijos adolescentes, pero la medida resalta una tensión persistente entre el diseño de IA de la compañía impulsado por el compromiso y la creciente demanda de protecciones proactivas de seguridad infantil.
