La cosa no acabó bien para la máquina de vigilancia.
La Iniciativa de Capacidad Modelo de Meta, el controvertido sistema que registraba las pulsaciones de teclas y los movimientos del mouse de los empleados para entrenar su IA, ha sido pausada. La herramienta se lanzó en abril. Enfrentó una resistencia inmediata. Luego las cosas se torcieron.
Se expusieron datos internos confidenciales.
La fuga
Conversaciones privadas. Indicaciones. Revisiones de desempeño. Transcripciones. Según Wired, todo esto se volvió accesible para cualquiera dentro de Meta. Un aviso de seguridad interno alertó sobre la violación, corroborado por tres empleados que vieron lo sucedido.
Esto no es poca cosa. Más de 1.600 empleados firmaron una petición exigiendo el fin de la recopilación y reutilización de sus datos informáticos. Ingenieros, investigadores, diseñadores: las personas que realmente construyen los productos.
Su argumento fue sencillo. No se puede construir una “IA responsable” ignorando los límites humanos básicos.
“Cualquier enfoque de la IA que se basara en una recopilación de datos intrusiva, coercitiva y no consensuada contradecía ese principio”, afirma la petición.
El software rastreó todo. Gmail. Chat de Google. Incluso Metamate, el asistente interno de IA. También tomó capturas de pantalla. Un portavoz de Meta afirma que aún no hay indicios de que se haya accedido incorrectamente a los datos, a pesar de la exposición. Aún. Están investigando. Deteniendo indefinidamente el programa por ahora.
¿Tenía que suceder de esta manera?
Mucho dinero, mayor ambición
El contexto importa aquí. Meta no está haciendo esto porque sea paranoico. Lo hace porque están invirtiendo 135 mil millones de dólares en infraestructura de IA solo este año. Amazon tiene hasta 200 mil millones de dólares. Microsoft se sitúa en 190 dólares. El alfabeto cuesta $185.
Esta es una carrera armamentista.
En un audio filtrado del 30 de abril, Mark Zuckerberg argumentó que sus empleados eran simplemente demasiado buenos para desperdiciarlos en tareas de bajo nivel. Creía que la inteligencia promedio de la empresa era significativamente mayor que la de las multitudes externas para completar tareas. La lógica era que los modelos de IA aprenden más rápido al observar trabajar a personas inteligentes.
Eficiente. Tal vez. Además, profundamente inquietante.
El costo humano
Rory Mir, de la Electronic Frontier Foundation, lo llama abuso de poder. Buscar nuevos datos de entrenamiento no es una excusa para un seguimiento desproporcionado.
“Esto resalta la necesidad de legislación”, dijo Mir, exigiendo consentimiento y debido proceso.
En este momento, esas leyes no están vigentes. Meta está en pausa. Pero la presión para crecer no cesará. El capital está gastado. La ambición permanece.
No está claro si esta herramienta regresa o si algo peor ocupa su lugar. Por ahora, los registros están detenidos.
Pero la pregunta no es si las empresas intentarán vigilarnos.
