Non è finita bene per la macchina di sorveglianza.
La Model Capability Initiative di Meta, il controverso sistema che registrava le sequenze di tasti e i movimenti del mouse dei dipendenti per addestrare la sua intelligenza artificiale, è stata sospesa. Lo strumento è stato lanciato ad aprile. Ha dovuto affrontare una resistenza immediata. Poi le cose sono andate di traverso.
Sono stati scoperti dati interni sensibili.
La fuga di notizie
Conversazioni private. Richiede. Revisioni delle prestazioni. Trascrizioni. Secondo Wired, tutto è diventato accessibile a chiunque all’interno di Meta. Un avviso di sicurezza interno ha segnalato la violazione, confermato da tre dipendenti che hanno visto cosa è successo.
Questa non è una cosa da poco. Oltre 1.600 dipendenti hanno firmato una petizione chiedendo la fine della raccolta e del riutilizzo dei propri dati informatici. Ingegneri, ricercatori, designer: le persone che realizzano effettivamente i prodotti.
La loro argomentazione era semplice. Non è possibile costruire un’“intelligenza artificiale responsabile” ignorando i confini umani fondamentali.
“Qualsiasi approccio all’intelligenza artificiale che si basasse su una raccolta di dati intrusiva, coercitiva e non consensuale contraddiceva tale principio”, afferma la petizione.
Il software ha tracciato tutto. Gmail. GoogleChat. Anche Metamate, l’assistente AI interno. Sono stati effettuati anche degli screenshot. Un portavoce di Meta afferma che non ci sono ancora indicazioni che i dati siano stati accessibili impropriamente, nonostante l’esposizione. Ancora. Stanno indagando. Per il momento sospendo il programma a tempo indeterminato.
Doveva andare così?
Grandi soldi, ambizioni più grandi
Il contesto conta qui. Meta non lo fa perché è paranoico. Lo fa perché solo quest’anno stanno investendo 135 miliardi di dollari nell’infrastruttura dell’intelligenza artificiale. Amazon vale 200 miliardi di dollari. Microsoft si trova a $ 190. Alphabet è a $ 185.
Questa è una corsa agli armamenti.
In un audio trapelato il 30 aprile, Mark Zuckerberg sosteneva che i suoi dipendenti erano semplicemente troppo bravi per essere sprecati in compiti di basso livello. Credeva che l’intelligenza media dell’azienda fosse significativamente più alta rispetto a quella delle folle esterne per il completamento delle attività. La logica era che i modelli di intelligenza artificiale imparano più velocemente osservando le persone intelligenti lavorare.
Efficiente. Forse. Inoltre, profondamente inquietante.
Il costo umano
Rory Mir della Electronic Frontier Foundation lo definisce un abuso di potere. La ricerca di nuovi dati di addestramento non è una scusa per un monitoraggio sproporzionato.
“Evidenzia la necessità di una legislazione”, ha affermato Mir, chiedendo consenso e giusto processo.
Al momento, quelle leggi non sono in vigore. Meta è in pausa. Ma la pressione per crescere non si fermerà. Il capitale è speso. L’ambizione resta.
Non è chiaro se questo strumento ritorni o se al suo posto subentri qualcosa di peggio. Per ora, i registri sono interrotti.
Ma la domanda non è se le aziende cercheranno di osservarci.
