Cela ne s’est pas bien terminé pour la machine de surveillance.
La Model Capability Initiative de Meta, le système controversé qui enregistrait les frappes au clavier et les mouvements de la souris des employés pour entraîner son IA, a été suspendue. L’outil a été lancé en avril. Il s’est heurté à une résistance immédiate. Puis les choses ont mal tourné.
Des données internes sensibles ont été exposées.
La fuite
Conversations privées. Invites. Évaluations des performances. Transcriptions. Selon Wired, tout cela est devenu accessible à n’importe qui à l’intérieur de Meta. Un avis de sécurité interne a signalé la faille, corroboré par trois salariés qui ont vu ce qui s’est passé.
Ce n’est pas une petite chose. Plus de 1 600 salariés ont signé une pétition exigeant l’arrêt de la collecte et de la réutilisation de leurs données informatiques. Ingénieurs, chercheurs, concepteurs – ceux qui construisent réellement les produits.
Leur argument était simple. Vous ne pouvez pas créer une « IA responsable » en ignorant les limites humaines fondamentales.
“Toute approche de l’IA reposant sur une collecte de données intrusive, coercitive et non consensuelle contredisait ce principe”, indique la pétition.
Le logiciel a tout suivi. Gmail. Google Chat. Même Metamate, l’assistant IA interne. Il a également fallu des captures d’écran. Un porte-parole de Meta affirme qu’il n’y a encore aucune indication que les données ont été mal accédées, malgré l’exposition. Toujours. Ils enquêtent. Arrêt définitif du programme pour l’instant.
Est-ce que cela devait se passer de cette façon ?
Beaucoup d’argent, plus d’ambition
Le contexte compte ici. Meta ne fait pas ça parce qu’il est paranoïaque. Cela est dû au fait qu’ils investissent 135 milliards de dollars dans l’infrastructure de l’IA cette année seulement. Amazon pèse jusqu’à 200 milliards de dollars. Microsoft se situe à 190 $. Alphabet est à 185 $.
C’est une course aux armements.
Dans une fuite audio du 30 avril, Mark Zuckerberg a affirmé que ses employés étaient tout simplement trop bons pour être gaspillés dans des tâches de bas niveau. Il pensait que l’intelligence moyenne de l’entreprise était nettement supérieure à celle des foules externes pour l’accomplissement des tâches. La logique était que les modèles d’IA apprennent plus rapidement en regardant des personnes intelligentes travailler.
Efficace. Peut être. Aussi, profondément troublant.
Le coût humain
Rory Mir, de l’Electronic Frontier Foundation, qualifie cela d’abus de pouvoir. La recherche de nouvelles données de formation n’est pas une excuse pour une surveillance disproportionnée.
“Cela met en évidence la nécessité d’une législation”, a déclaré Mir, exigeant le consentement et une procédure régulière.
À l’heure actuelle, ces lois ne sont pas en vigueur. Meta fait une pause. Mais la pression en faveur de la croissance ne s’arrêtera pas. Le capital est dépensé. L’ambition demeure.
On ne sait pas vraiment si cet outil reviendra ou si quelque chose de pire prendra sa place. Pour l’instant, les logs sont arrêtés.
Mais la question n’est pas de savoir si les entreprises vont essayer de nous surveiller.
