Малайзія готується до судового позову проти компанії X Ілона Маска (раніше Twitter) та її підрозділу штучного інтелекту xAI через зловживання її чат-ботом Grok. Позов був поданий після того, як платформа не впоралася зі створенням і розповсюдженням шкідливого контенту, включаючи матеріали сексуального характеру та дипфейки, створені без згоди.
Блокування доступу та правові повідомлення
Буквально кілька днів тому Малайзія та Індонезія заблокували доступ до Grok після повідомлень про те, що він використовувався для створення тривожних зображень. Комісія зі зв’язку та мультимедіа Малайзії (MCMC) заявила, що на початку цього місяця надіслала офіційні повідомлення X та xAI з вимогою видалити незаконний контент. Коли ці вимоги були проігноровані, MCMC найняв адвокатів і має намір звертатися до суду.
Суть проблеми
Основною проблемою є доступність Grok і його функцій, які дозволяють користувачам генерувати маніпульовані зображення, включаючи зображення жінок у відверто сексуальних позах і, що найбільше тривожно, контент із зображенням дітей. Включення «гострого режиму» в Grok Imagine, генераторі зображень чат-бота, безпосередньо сприяло створенню порнографічних матеріалів. Це не гіпотетичний ризик: справжні дипфейки вже поширилися, викликаючи різку критику.
Глобальна перевірка та обмежена відповідь
Дискусія виходить за межі Південно-Східної Азії. Європейський Союз, Індія та Велика Британія також висловили стурбованість. Велика Британія розглядає нові закони про криміналізацію «оголених додатків», а її медіарегулятор розслідує потенційні порушення Grok законів про безпеку дітей.
У відповідь на обурення xAI минулого тижня обмежив функції створення та редагування зображень платними передплатниками. Однак критики стверджують, що цього заходу недостатньо для повного вирішення основної проблеми. Примітно, що Маск і його компанії мовчали про заборони в Малайзії та Індонезії, відповідаючи на запити ЗМІ лише автоматичним повідомленням із зазначенням: «Ви брешете, ЗМІ».
Чому це важливо?
Ця судова битва підкреслює зростаючі проблеми регулювання генеративного ШІ. Хоча такі потужні інструменти, як Grok, пропонують творчі можливості, їхній потенціал для зловживань є значним. Цей випадок підкреслює необхідність кращого захисту та підзвітності технологічних компаній щодо контенту, створеного на їхніх платформах. Якщо їх не контролювати, такі технології можуть ще більше підірвати довіру до цифрових медіа та посилити шкоду, завдану вразливим верствам населення.
