Não terminou bem para a máquina de vigilância.
A Model Capability Initiative da Meta, o polêmico sistema que registrava as teclas digitadas e os movimentos do mouse dos funcionários para treinar sua IA, foi pausada. A ferramenta foi lançada em abril. Enfrentou resistência imediata. Então as coisas correram para o lado.
Dados internos confidenciais foram expostos.
O vazamento
Conversas privadas. Solicitações. Avaliações de desempenho. Transcrições. De acordo com a Wired, tudo isso se tornou acessível a qualquer pessoa dentro do Meta. Um aviso de segurança interna sinalizou a violação, corroborada por três funcionários que presenciaram o ocorrido.
Isso não é uma coisa pequena. Mais de 1.600 funcionários assinaram uma petição exigindo o fim da coleta e reaproveitamento de seus dados computacionais. Engenheiros, pesquisadores, designers – as pessoas que realmente constroem os produtos.
O argumento deles era direto. Você não pode construir uma “IA responsável” ignorando os limites humanos básicos.
“Qualquer abordagem à IA que se baseasse na coleta de dados intrusiva, coercitiva e não consensual contradiz esse princípio”, afirmava a petição.
O software rastreou tudo. Gmail. Bate-papo do Google. Até o Metamate, o assistente interno de IA. Também foram feitas capturas de tela. Um porta-voz da Meta afirma que ainda não há indicações de que os dados foram acessados indevidamente, apesar da exposição. Ainda. Eles estão investigando. Parando indefinidamente o programa por enquanto.
Tinha que acontecer assim?
Muito dinheiro, maior ambição
O contexto é importante aqui. Meta não está fazendo isso porque é paranóico. Isso acontece porque eles estão investindo 135 bilhões de dólares em infraestrutura de IA somente neste ano. A Amazon chega a US$ 200 bilhões. A Microsoft custa US$ 190. O alfabeto custa US$ 185.
Esta é uma corrida armamentista.
Em um áudio vazado de 30 de abril, Mark Zuckerberg argumentou que seus funcionários eram simplesmente bons demais para serem desperdiçados em tarefas de baixo nível. Ele acreditava que a inteligência média da empresa era significativamente maior do que a de multidões externas para a conclusão de tarefas. A lógica era que os modelos de IA aprendem mais rápido observando o trabalho de pessoas inteligentes.
Eficiente. Talvez. Além disso, profundamente perturbador.
O custo humano
Rory Mir, da Electronic Frontier Foundation, chama isso de abuso de poder. Buscar novos dados de treinamento não é desculpa para monitoramento desproporcional.
“Isso destaca a necessidade de legislação”, disse Mir, exigindo consentimento e devido processo.
No momento, essas leis não estão em vigor. Meta está fazendo uma pausa. Mas a pressão para crescer não vai parar. O capital está gasto. A ambição permanece.
Não está claro se essa ferramenta voltará ou se algo pior tomará seu lugar. Por enquanto, os logs estão parados.
Mas a questão não é se as empresas tentarão nos observar.
