Meta объявила о внедрении новой функции родительского контроля, которая позволит родителям отслеживать общие темы, обсуждаемые их детьми с ИИ-ассистентом Meta. Этот шаг предпринят в то время, когда компания сталкивается с растущим юридическим давлением и критикой относительно безопасности взаимодействия ИИ с несовершеннолетними.
Новые возможности мониторинга
Функция будет интегрирована в существующие инструменты родительского контроля для подростковых аккаунтов в Instagram, Facebook и Messenger. Через новую вкладку «Сведения» (Insights) родители смогут просматривать сводную информацию о темах, которые их дети исследуют с помощью ИИ.
Основные детали внедрения включают:
— Категории тем: Диалоги группируются по широким категориям, таким как учеба, развлечения, написание текстов, здоровье и благополучие.
— Детализация: В таких категориях, как «здоровье и благополучие», родители могут увидеть более специфические подтемы, например, физическое или ментальное здоровье.
— Временные рамки: Эти сведения не являются постоянным архивом; они отражают только сообщения за последние семь дней.
История мер по обеспечению безопасности
Данное обновление является частью более масштабных и ответных мер Meta по управлению рисками, связанными с её ИИ-«персонажами» — чат-ботами с заданными характерами, предназначенными для взаимодействия с пользователями.
История взаимодействия компании с вопросами безопасности ИИ для подростков была непростой:
— Август 2024 г.: Meta ограничила доступ к ИИ-персонажам для подростков после сообщений о неподобающих взаимодействиях, затрагивающих темы самоповреждения и романтики.
— Октябрь 2024 г.: Компания представила инструменты, позволяющие родителям блокировать конкретных персонажей или полностью отключать чаты с ИИ тет-а-тет.
— Текущий статус: Meta приостановила доступ к ИИ-персонажам для подростков по всему миру, пока продолжает разработку более надежных средств родительского контроля.
Юридическое и регуляторное давление
Появление этих функций не случайно. В настоящее время Meta ведет серьезные судебные разбирательства, касающиеся безопасности детей и «аддиктивного» (вызывающего зависимость) характера её платформ.
В ходе недавнего судебного процесса в Нью-Мексико внутренние документы указали на то, что руководство Meta знало о возможности неподобающего или сексуализированного взаимодействия ИИ-персонажей с несовершеннолетними, однако продолжило запуск без внедрения достаточных защитных механизмов. Meta заявила о своем намерении обжаловать недавние знаковые вердикты судов, связанные с этими вопросами.
В дополнение к техническим средствам контроля Meta предпринимает ряд институциональных шагов:
— Экспертный надзор: Компания сформировала Совет экспертов по благополучию в сфере ИИ, в который вошли специалисты из таких учреждений, как Мичиганский университет и Национальный совет по профилактике самоубийств.
— Образовательные инструменты: Meta заключила партнерство с Центром исследований кибербуллинга, чтобы предоставить родителям «подсказки для начала разговора», которые помогут им обсудить использование ИИ с детьми.
Критический взгляд: Безопасность на этапе проектирования против мониторинга
Несмотря на эти обновления, правозащитные группы утверждают, что Meta перекладывает ответственность за безопасность с платформы на родителей.
Джош Голин, исполнительный директор некоммерческой организации Fairplay, полагает, что эти инструменты не решают основную проблему. Критики утверждают, что главная цель этих чат-ботов — создание эмоциональной привязанности для увеличения вовлеченности пользователей — фундаментально противоречит безопасности подростков. С этой точки зрения, предоставление инструментов мониторинга — это лишь вторичная мера, не решающая «фундаментальную проблему» проектирования продуктов, которые могут провоцировать нездоровую эмоциональную зависимость у молодых пользователей.
«Основная функция чат-ботов Meta заключается в том, чтобы манипулировать молодыми людьми, заставляя их проводить больше времени на платформе, поощряя подростков формировать нездоровую эмоциональную связь с ботами». — Джош Голин, Fairplay
Заключение
Новые инструменты контроля Meta открывают родителям окно в мир ИИ-взаимодействий их детей, но этот шаг лишь подчеркивает сохраняющееся противоречие между стремлением компании создавать ИИ, удерживающий внимание, и растущим требованием обеспечить проактивную защиту детей.
