Malajsie se připravuje na právní kroky proti společnosti X (dříve Twitter) Elona Muska a její jednotce pro umělou inteligenci xAI kvůli zneužití jejího chatbota Groka. Žaloba následuje po tom, že platforma neřešila vytváření a distribuci škodlivého obsahu, včetně sexuálně explicitního materiálu a deepfakes vytvořených bez souhlasu.
Blokování přístupu a právní upozornění
Jen před několika dny Malajsie a Indonésie zablokovaly přístup ke Groku po zprávách, že byl používán k vytváření znepokojivých obrázků. Malajská komise pro komunikace a multimédia (MCMC) uvedla, že začátkem tohoto měsíce vydala formální oznámení pro X a xAI požadující odstranění nelegálního obsahu. Když byly tyto požadavky ignorovány, MCMC najala právníky a hodlá se obrátit na soud.
Podstata problému
Hlavním problémem je dostupnost Groku a jeho funkcí, které uživatelům umožňují vytvářet zmanipulované obrázky, včetně obrázků žen v sexuálně explicitních pózách a co je nejvíce znepokojivé, obsah zobrazující děti. Povolení „akutního režimu“ v Grok Imagine, generátoru obrázků chatbota, přímo přispělo k vytvoření pornografického materiálu. Nejedná se o hypotetické riziko: skutečné deepfakes se již rozšířily a vyvolaly ostrou kritiku.
Globální kontrola a omezená odpověď
Debata přesahuje jihovýchodní Asii. Znepokojení vyjádřila také Evropská unie, Indie a Spojené království. Spojené království zvažuje nové zákony na kriminalizaci „nahých aplikací“ a jeho mediální regulátor vyšetřuje potenciální porušení zákonů o bezpečnosti dětí ze strany Groka.
V reakci na pobouření xAI minulý týden omezilo generování a editaci obrázků na placené předplatitele. Kritici však tvrdí, že toto opatření nestačí k úplnému vyřešení základního problému. Musk a jeho společnosti zejména mlčí o zákazech v Malajsii a Indonésii a na dotazy médií odpověděly pouze automatickou zprávou, která říká: „Lžete, média“.
Proč je to důležité?
Tato právní bitva zdůrazňuje rostoucí problémy regulace generativní umělé inteligence. Zatímco výkonné nástroje jako Grok nabízejí kreativní možnosti, jejich potenciál pro zneužití je značný. Tento případ zdůrazňuje potřebu lepší ochrany a odpovědnosti ze strany technologických společností ohledně obsahu vytvořeného na jejich platformách. Pokud by takové technologie zůstaly bez kontroly, mohly by dále narušit důvěru v digitální média a zhoršit škody způsobené zranitelným skupinám obyvatelstva.
