У цієї машини для тотального стеження не склалося.
Meta призупинила роботу системи Model Capability Initiative — спірного інструменту, який реєстрував натискання клавіш та руху миші співробітників для навчання своїх ІІ-моделей. Проект було запущено у квітні, але одразу зіткнувся з опором. А потім ситуація вийшла з-під контролю.
Було розкрито конфіденційні внутрішні дані.
Витік інформації
Особисті листування, запити (промпти), оцінки ефективності роботи, транскрипції – згідно з виданням Wired, все це стало доступне кожному співробітнику Meta. Про порушення безпеки попередило внутрішнє службове повідомлення, що підтвердили троє працівників компанії, які стали свідками інциденту.
Це не дрібниця. Понад 1600 співробітників підписали петицію з вимогою припинити збирання та використання їх комп’ютерних даних в інших цілях. Йдеться про інженерів, дослідників та дизайнерів — людей, які безпосередньо створюють продукти компанії.
Їхній аргумент був простим: неможливо створювати «відповідальний штучний інтелект», ігноруючи базові людські межі.
“Будь-який підхід до ІІ, заснований на нав’язливому, примусовому зборі даних без згоди, суперечить цьому принципу”, – говорила петиція.
Програмне забезпечення відстежувало все: Gmail, Google Chat і навіть Metamate – внутрішній ІІ-помічник. Він також робив скріншоти екрану. Представник Meta заявив, що поки немає жодних ознак того, що до даних був “незаконний” доступ, незважаючи на їхнє публічне розкриття. Проте компанія проводить розслідування і на невизначений термін зупинила програму.
Чи поведе це до таких наслідків у майбутньому?
Великі гроші та ще більші амбіції
Тут важливий контекст. Meta не діє з параної. Вони роблять це, бо лише цього року виділяють 135 мільярдів доларів на інфраструктуру ІІ. Amazon спрямовує на це 200 мільярдів, Microsoft – 190, а Alphabet – 185 мільярдів.
Це перегони озброєнь.
У аудіозаписі від 30 квітня Марк Цукерберг стверджував, що його співробітники надто кваліфіковані, щоб витрачати час на рутинні завдання. Він вважав, що загальний рівень інтелекту співробітників компанії значно вищий, ніж у зовнішніх виконавців, що маютьпостійні завдання. Логіка була такою: ІІ-моделі навчаються швидше, якщо спостерігають за роботою розумних людей.
Ефективно? Можливо. Але також глибоко тривожно.
Людська ціна
Рорі Мир із Електронного фронтизму (Electronic Frontier Foundation) називає це зловживанням владою. Пошук нових даних навчання не є виправданням для непропорційного моніторингу.
«Це наголошує на необхідності законодавчого регулювання», — заявив Мир, наполягаючи на отриманні згоди та дотриманні належної правової процедури.
Нині таких законів немає. Meta тимчасово призупинила проект. Але тиск у прагненні зростання не ослабне. Капітал уже вкладено. Амбіції залишаються незмінними.
Чи повернеться цей інструмент чи на зміну йому прийде щось радикальніше — поки що невідомо. На даний момент збирання логів припинено.
Але питання не в тому, чи намагатимуться компанії стежити за нами.
