Het liep niet goed af voor de surveillancemachine.
Meta’s Model Capability Initiative, het controversiële systeem dat toetsaanslagen en muisbewegingen van werknemers registreerde om de AI te trainen, is gepauzeerd. De tool is in april gelanceerd. Het stuitte op onmiddellijk verzet. Toen gingen de zaken zijwaarts.
Gevoelige interne gegevens kwamen bloot.
Het lek
Privégesprekken. Prompts. Prestatiebeoordelingen. Transcripties. Volgens Wired werd alles toegankelijk voor iedereen binnen Meta. Een interne veiligheidsmelding signaleerde de inbreuk, bevestigd door drie medewerkers die zagen wat er gebeurde.
Dit is geen kleinigheid. Ruim 1.600 werknemers ondertekenden een petitie waarin werd geëist dat er een einde kwam aan het verzamelen en hergebruiken van hun computergegevens. Ingenieurs, onderzoekers, ontwerpers: de mensen die de producten daadwerkelijk bouwen.
Hun betoog was eenvoudig. Je kunt geen ‘verantwoorde AI’ bouwen terwijl je de fundamentele menselijke grenzen negeert.
“Elke benadering van AI die berustte op opdringerige, dwangmatige gegevensverzameling zonder wederzijdse toestemming was in tegenspraak met dat principe”, aldus de petitie.
De software hield alles bij. Gmail. Google Chat. Zelfs Metamate, de interne AI-assistent. Er waren ook screenshots van gemaakt. Een woordvoerder van Meta beweert dat er nog geen aanwijzingen zijn dat de gegevens ondanks de bekendmaking onjuist zijn benaderd. Nog steeds. Ze zijn bezig met onderzoek. Voorlopig stopzetten van het programma.
Moest het op deze manier gebeuren?
Groot geld, grotere ambitie
Context is hier van belang. Meta doet dit niet omdat het paranoïde is. Ze doen dit omdat ze alleen al dit jaar $135 miljard in de AI-infrastructuur steken. Amazon heeft een waarde van $200 miljard. Microsoft zit op $ 190. Alfabet kost $ 185.
Dit is een wapenwedloop.
In uitgelekte audio van 30 april betoogde Mark Zuckerberg dat zijn werknemers simpelweg te goed waren om te verspillen aan taken op laag niveau. Hij geloofde dat de gemiddelde intelligentie van het bedrijf aanzienlijk hoger was dan die van buitenaf voor het voltooien van taken. De logica was dat AI-modellen sneller leren door slimme mensen te zien werken.
Efficiënt. Misschien. Bovendien diep verontrustend.
De menselijke kosten
Rory Mir van de Electronic Frontier Foundation noemt het machtsmisbruik. Het zoeken naar nieuwe trainingsgegevens is geen excuus voor onevenredige monitoring.
“Het onderstreept de noodzaak van wetgeving”, zei Mir, die toestemming en een eerlijk proces eiste.
Op dit moment zijn die wetten er niet. Meta pauzeert. Maar de druk om te groeien zal niet stoppen. Het kapitaal is uitgegeven. De ambitie blijft.
Of dit hulpmiddel terugkomt of dat er iets ergers voor in de plaats komt, is onduidelijk. Voorlopig zijn de logs gestopt.
Maar de vraag is niet of bedrijven ons in de gaten zullen houden.
