Ta maszyna do całkowitego nadzoru nie sprawdziła się.
Meta zawiesiła Model Capability Initiative, kontrowersyjne narzędzie, które rejestrowało naciśnięcia klawiszy i ruchy myszy przez pracowników w celu szkolenia modeli sztucznej inteligencji. Projekt ruszył w kwietniu, ale od razu spotkał się z oporem. A potem sytuacja wymknęła się spod kontroli.
Ujawniono poufne dane wewnętrzne.
Wyciek informacji
Korespondencja osobista, prośby (podpowiedzi), recenzje wyników, transkrypcje – według Wired to wszystko stało się dostępne dla każdego pracownika Meta. Wewnętrzny komunikat wewnętrzny ostrzegał o naruszeniu bezpieczeństwa, co zostało potwierdzone przez trzech pracowników firmy, którzy byli świadkami zdarzenia.
To nie jest drobnostka. Ponad 1600 pracowników podpisało się pod petycją żądającą zaprzestania gromadzenia i wykorzystywania ich danych komputerowych do innych celów. Mowa tu o inżynierach, badaczach i projektantach – osobach, które bezpośrednio tworzą produkty firmy.
Ich argument był prosty: nie da się stworzyć „odpowiedzialnej sztucznej inteligencji” ignorując podstawowe ludzkie granice.
„Jakiekolwiek podejście do sztucznej inteligencji, które opiera się na natrętnym, przymusowym gromadzeniu danych bez zgody, jest sprzeczne z tą zasadą” – czytamy w petycji.
Oprogramowanie śledziło wszystko: Gmaila, Google Chat, a nawet Metamate – wewnętrznego asystenta AI. Zrobiono także zrzuty ekranu. Rzecznik Meta powiedział, że obecnie nic nie wskazuje na to, aby dostęp do danych był nielegalny, pomimo ich publicznego ujawnienia. Jednak firma prowadzi dochodzenie i wstrzymała program na czas nieokreślony.
Czy będzie to miało takie konsekwencje w przyszłości?
Duże pieniądze i jeszcze większe ambicje
Kontekst jest tutaj ważny. Meta nie działa w wyniku paranoi. Robią to, ponieważ tylko w tym roku przeznaczą 135 miliardów dolarów na infrastrukturę sztucznej inteligencji. Amazon wydaje na to 200 miliardów, Microsoft – 190 miliardów, a Alphabet – 185 miliardów.
To jest wyścig zbrojeń.
W nagraniu audio, które wyciekło 30 kwietnia, Mark Zuckerberg argumentował, że jego pracownicy są zbyt wykwalifikowani, aby tracić czas na przyziemne zadania. Uważał, że ogólny poziom inteligencji pracowników firmy jest znacznie wyższy niż zewnętrznych wykonawców zadań crowdsourcingowych. Logika była następująca: modele sztucznej inteligencji uczą się szybciej, jeśli obserwują pracę inteligentnych ludzi.
Skuteczny? Może. Ale jest to również głęboko niepokojące.
Koszt ludzki
Rory Mir z Electronic Frontier Foundation nazywa to nadużyciem władzy. Znalezienie nowych danych szkoleniowych nie jest wymówką dla nieproporcjonalnego monitorowania.
„To podkreśla potrzebę regulacji” – stwierdził Mir, nalegając na uzyskanie zgody i należytego procesu.
Teraz nie ma takich przepisów. Meta tymczasowo zawiesiła projekt. Jednak presja na rozwój nie osłabnie. Kapitał został już zainwestowany. Ambicje pozostają takie same.
Wciąż nie wiadomo, czy instrument ten powróci, czy zostanie zastąpiony czymś bardziej radykalnym. W tej chwili gromadzenie logów zostało zatrzymane.
Ale pytanie nie brzmi, czy firmy będą próbowały nas szpiegować.
