Малайзия готовится к судебному разбирательству против X (ранее Twitter) компании Илона Маска и ее подразделения искусственного интеллекта, xAI, из-за злоупотребления чат-ботом Grok. Иск последовал за неспособностью платформы решить проблему создания и распространения вредоносного контента, включая сексуально откровенные материалы и дипфейки, созданные без согласия.
Блокировка доступа и юридические уведомления
Всего несколько дней назад Малайзия и Индонезия заблокировали доступ к Grok после сообщений о его использовании для создания тревожных изображений. Комиссия по коммуникациям и мультимедиа Малайзии (MCMC) заявила, что в начале этого месяца направила официальные уведомления в X и xAI с требованием удалить незаконный контент. Когда эти требования были проигнорированы, MCMC наняла юристов и намерена обратиться в суд.
Суть проблемы
Основная проблема заключается в доступности Grok и его функциях, которые позволяют пользователям генерировать манипулированные изображения, включая изображения женщин в сексуально откровенных позах и, что вызывает особую тревогу, контент с участием детей. Включение «острого режима» в Grok Imagine, генераторе изображений чат-бота, напрямую способствовало созданию порнографического материала. Это не гипотетический риск: реальные дипфейки уже распространились, вызвав резкую критику.
Глобальная проверка и ограниченный ответ
Споры выходят за рамки Юго-Восточной Азии. Европейский Союз, Индия и Соединенное Королевство также выразили обеспокоенность. Великобритания рассматривает новые законы, криминализирующие «приложения для обнажения», а ее медиарегулятор расследует потенциальные нарушения законов о безопасности детей со стороны Grok.
В ответ на возмущение xAI на прошлой неделе ограничила функции генерации и редактирования изображений для платных подписчиков. Однако критики утверждают, что этой меры недостаточно для полного решения основной проблемы. Примечательно, что Маск и его компании хранят молчание о запретах в Малайзии и Индонезии, отвечая на запросы СМИ только автоматическим сообщением, в котором утверждается: «Врешь, СМИ».
Почему это важно
Эта судебная тяжба подчеркивает растущие проблемы регулирования генеративного ИИ. Хотя мощные инструменты, такие как Grok, предлагают творческие возможности, их потенциал для злоупотреблений значителен. Этот случай подчеркивает необходимость более эффективных мер защиты и ответственности со стороны технологических компаний в отношении контента, создаваемого на их платформах. Если не сдерживать, такие технологии могут еще больше подорвать доверие к цифровым СМИ и усугубить вред, причиняемый уязвимым группам населения.
