Maleisië bereidt juridische stappen voor tegen X van Elon Musk (voorheen Twitter) en zijn afdeling voor kunstmatige intelligentie, xAI, vanwege het misbruik van de Grok-chatbot. De rechtszaak volgt op het onvermogen van het platform om de productie en distributie van schadelijke inhoud aan te pakken, waaronder seksueel expliciet materiaal en deepfakes zonder wederzijds goedvinden.
Toegang blokkeren en juridische kennisgevingen
Enkele dagen daarvoor blokkeerden zowel Maleisië als Indonesië de toegang tot Grok nadat er berichten waren opgedoken over de uitbuiting ervan vanwege het creëren van verontrustende beelden. De Malaysian Communications and Multimedia Commission (MCMC) verklaarde eerder deze maand aanmaningen te hebben gedaan aan X en xAI, waarin zij de verwijdering van illegale inhoud eiste. Toen deze eisen werden genegeerd, schakelde de MCMC juridisch advies in en zal zij overgaan tot gerechtelijke stappen.
De aard van het probleem
De voornaamste zorg draait om de toegankelijkheid en functies van Grok, waarmee gebruikers gemanipuleerde afbeeldingen kunnen genereren, waaronder afbeeldingen van vrouwen in seksueel expliciete poses en, alarmerend genoeg, inhoud waarbij kinderen betrokken zijn. De opname van een ‘pittige modus’ in Grok Imagine, de beeldgenerator van de chatbot, vergemakkelijkte direct de creatie van materiaal voor volwassenen. Dit is geen hypothetisch risico: deepfakes uit de echte wereld circuleren al, wat tot intense reacties heeft geleid.
Mondiaal onderzoek en beperkte respons
De controverse strekt zich uit tot buiten Zuidoost-Azië. De Europese Unie, India en het Verenigd Koninkrijk hebben ook alarm geslagen. Groot-Brittannië overweegt nieuwe wetten om ‘nudificatie-apps’ strafbaar te stellen, en de mediaregulator onderzoekt mogelijke schendingen van de kinderveiligheidswetten door Grok.
Als reactie op de verontwaardiging beperkte xAI vorige week de functies voor het genereren en bewerken van afbeeldingen tot betalende abonnees. Critici beweren echter dat deze maatregel er niet in slaagt het onderliggende probleem volledig op te lossen. Opvallend is dat Musk en zijn bedrijven hebben gezwegen over de verboden in Maleisië en Indonesië, en op vragen van de media alleen hebben gereageerd met een geautomatiseerd bericht waarin wordt beweerd dat er ‘Legacy Media Lies’ zijn.
Waarom dit belangrijk is
Deze juridische strijd benadrukt de groeiende uitdaging van het reguleren van generatieve AI. Hoewel krachtige tools zoals Grok creatieve mogelijkheden bieden, is hun potentieel voor misbruik aanzienlijk. De zaak onderstreept de noodzaak van sterkere waarborgen en verantwoordelijkheid van technologiebedrijven met betrekking tot de inhoud die op hun platforms wordt gegenereerd. Als dergelijke technologieën niet worden gecontroleerd, kunnen ze het vertrouwen in digitale media verder uithollen en de schade voor kwetsbare bevolkingsgroepen vergroten.
