У этой машины для тотальной слежки не сложилось.
Meta приостановила работу системы Model Capability Initiative — спорного инструмента, который регистрировал нажатия клавиш и движения мыши сотрудников для обучения своих ИИ-моделей. Проект был запущен в апреле, но сразу столкнулся с сопротивлением. А затем ситуация вышла из-под контроля.
Были раскрыты конфиденциальные внутренние данные.
Утечка информации
Личные переписки, запросы (промпты), оценки эффективности работы, транскрипции — согласно изданию Wired, всё это стало доступно каждому сотруднику Meta. О нарушении безопасности предупредило внутреннее служебное сообщение, что подтвердили три работника компании, ставшие свидетелями инцидента.
Это не мелочь. Более 1600 сотрудников подписали петицию с требованием прекратить сбор и использование их компьютерных данных в других целях. Речь идет об инженерах, исследователях и дизайнерах — людях, которые непосредственно создают продукты компании.
Их аргумент был простым: невозможно создавать «ответственный искусственный интеллект», игнорируя базовые человеческие границы.
«Любой подход к ИИ, основанный на навязчивом, принудительном сборе данных без согласия, противоречит этому принципу», — гласила петиция.
Программное обеспечение отслеживало всё: Gmail, Google Chat и даже Metamate — внутренний ИИ-ассистент. Оно также делало скриншоты экрана. Представитель Meta заявил, что пока нет никаких признаков того, что к данным был незаконный доступ, несмотря на их публичное раскрытие. Тем не менее, компания проводит расследование и на неопределенный срок остановила программу.
Поведет ли это к таким последствиям в будущем?
Большие деньги и еще большие амбиции
Здесь важен контекст. Meta не действует из паранойи. Они делают это, потому что только в этом году выделяют 135 миллиардов долларов на инфраструктуру ИИ. Amazon направляет на это 200 миллиардов, Microsoft — 190, а Alphabet — 185 миллиардов.
Это гонка вооружений.
В утекшей аудиозаписи от 30 апреля Марк Цукерберг утверждал, что его сотрудники слишком квалифицированы, чтобы тратить время на рутинные задачи. Он считал, что общий уровень интеллекта сотрудников компании значительно выше, чем у внешних исполнителей crowdsourcing-задач. Логика была такова: ИИ-модели учатся быстрее, если наблюдают за работой умных людей.
Эффективно? Возможно. Но также — глубоко тревожно.
Человеческая цена
Рори Мир из Электронного фронтизма (Electronic Frontier Foundation) называет это злоупотреблением властью. Поиск новых данных для обучения не является оправданием для непропорционального мониторинга.
«Это подчеркивает необходимость законодательного регулирования», — заявил Мир, настаивая на получении согласия и соблюдении надлежащей правовой процедуры.
Сейчас таких законов нет. Meta временно приостановила проект. Но давление в стремлении к росту не ослабнет. Капитал уже вложен. Амбиции остаются прежними.
Вернется ли этот инструмент или на смену ему придет что-то более радикальное — пока неизвестно. На данный момент сбор логов прекращен.
Но вопрос не в том, будут ли компании пытаться следить за нами.
