Tento stroj pro totální dohled nevyšel.
Meta pozastavila svou Model Capability Initiative, kontroverzní nástroj, který zaznamenával úhozy zaměstnanců a pohyby myší za účelem trénování svých modelů umělé inteligence. Projekt byl zahájen v dubnu, ale okamžitě narazil na odpor. A pak se situace vymkla kontrole.
Byla odhalena důvěrná interní data.
Únik informací
Osobní korespondence, žádosti (výzvy), hodnocení výkonu, přepisy – to vše se podle Wired stalo dostupné pro každého zaměstnance Meta. Na narušení bezpečnosti upozorňovala interní interní zpráva, kterou potvrdili tři zaměstnanci společnosti, kteří byli svědky incidentu.
To není maličkost. Více než 1600 zaměstnanců podepsalo petici požadující, aby jejich počítačová data nebyla shromažďována a používána k jiným účelům. Hovoříme o inženýrech, výzkumnících a designérech – lidech, kteří přímo vytvářejí produkty společnosti.
Jejich argument byl jednoduchý: je nemožné vytvořit „odpovědnou umělou inteligenci“ ignorováním základních lidských hranic.
„Jakýkoli přístup k AI, který se opírá o rušivé, nátlakové shromažďování dat bez souhlasu, je v rozporu s touto zásadou,“ píše se v petici.
Software sledoval vše: Gmail, Google Chat a dokonce Metamate – interního asistenta AI. Pořídil také snímky obrazovky. Mluvčí Meta uvedl, že v současné době neexistuje žádný náznak, že by k datům byl nelegálně přístup, a to i přes jejich zveřejnění. Společnost to však vyšetřuje a program na neurčito zastavila.
Povede to v budoucnu k takovým následkům?
Velké peníze a ještě větší ambice
Důležitý je zde kontext. Meta nejedná z paranoie. Dělají to proto, že jen letos vyčlenili 135 miliard $ na infrastrukturu umělé inteligence. Amazon na to utratí 200 miliard, Microsoft – 190 miliard a Alphabet – 185 miliard.
Tohle je závod ve zbrojení.
V uniklé zvukové nahrávce z 30. dubna Mark Zuckerberg tvrdil, že jeho zaměstnanci jsou příliš kvalifikovaní na to, aby ztráceli čas všedními úkoly. Domníval se, že obecná úroveň inteligence zaměstnanců společnosti je výrazně vyšší než u externích realizátorů úkolů crowdsourcingu. Logika byla tato: modely AI se učí rychleji, pokud sledují práci chytrých lidí.
Efektivní? Možná. Ale je to také hluboce znepokojivé.
Lidské náklady
Rory Mir z Electronic Frontier Foundation to nazývá zneužitím moci. Hledání nových tréninkových dat není omluvou pro nepřiměřené sledování.
“To podtrhuje potřebu regulace,” řekl Mir a trval na získání souhlasu a řádného procesu.
Nyní žádné takové zákony neexistují. Meta dočasně pozastavila projekt. Ale tlak na růst nepoleví. Kapitál již byl investován. Ambice zůstávají stejné.
Zda se tento nástroj vrátí nebo bude nahrazen něčím radikálnějším, se zatím neví. V tuto chvíli byl sběr protokolů zastaven.
Otázkou ale není, zda se nás společnosti pokusí špehovat.
