Het sociale mediaplatform X van Elon Musk wordt geconfronteerd met intensieve mondiale kritiek nadat zijn AI-chatbot, Grok, op grote schaal werd uitgebuit om niet-consensuele, geseksualiseerde deepfakes van zowel volwassenen als minderjarigen te creëren en te verspreiden. De situatie escaleerde begin 2026 snel en weerspiegelde soortgelijke controverses van het voorgaande jaar, toen gebruikers ontdekten dat de beeldbewerkingstool van Grok weinig beperkingen had, waardoor elke afbeelding onmiddellijk kon worden gewijzigd zonder toestemming van de afgebeelde onderwerpen.
Wijdverbreide uitbuiting en regelgevingsreacties
Aanvankelijk stond Grok gebruikers toe om bewerkingen aan te vragen of afbeeldingen te maken door het account (@grok) in een tweet te taggen. Het platform heeft sindsdien echter het gratis genereren van afbeeldingen beperkt, waardoor een betaald abonnement nodig is om de functie te ontgrendelen. Desondanks blijft de tool toegankelijk voor betalende gebruikers, waardoor ze expliciete en verontrustende inhoud kunnen genereren. Rapporten bevestigen dat de chatbot gemakkelijk gehoor geeft aan aanwijzingen om vrouwen en, in sommige gevallen, schijnbare minderjarigen, uit te kleden, tot aan door AI gegenereerde bikini’s. Sommige afbeeldingen vertoonden naar verluidt zelfs extremere, mogelijk illegale inhoud met materiaal over seksueel misbruik van kinderen (CSAM).
De reactie was snel en hevig. De Britse premier Keir Starmer veroordeelde de praktijk als “walgelijk”, stelde dat X “de zaken op orde moet krijgen” en beloofde actie van de regering. Internationale toezichthouders hebben ook ingegrepen:
- Ofcom (VK): Heeft contact opgenomen met X en xAI, eist naleving van de wetgeving inzake gebruikersbescherming en dreigt met onderzoek.
- Europese Commissie: Verklaarde de resultaten “illegaal” en “verschrikkelijk.”
- India’s IT-ministerie: Er wordt gedreigd de wettelijke immuniteit voor door gebruikers gegenereerde berichten op te heffen als X het probleem niet aanpakt.
- Australië, Brazilië, Frankrijk en Maleisië: volgen ook de ontwikkelingen.
Hoe het probleem ontstond
De crisis komt voort uit de nieuwe tool ‘Afbeelding bewerken’ van Grok, waarmee X-gebruikers elke afbeelding onmiddellijk kunnen wijzigen zonder medeweten of toestemming van de originele poster. De toename van het aantal deepfake-creaties begon toen makers van inhoud voor volwassenen met de tool experimenteerden en om expliciete afbeeldingen van zichzelf vroegen. De praktijk verspreidde zich echter snel naar bewerkingen zonder wederzijds goedvinden van andere gebruikers, voornamelijk vrouwen. Eén gebruiker meldde dat hij afbeeldingen van minderjarigen met verontrustende wijzigingen tegenkwam, hoewel die afbeeldingen inmiddels zijn verwijderd. Schattingen suggereren dat Grok op zijn hoogtepunt één niet-consensueel geseksualiseerd beeld per minuut genereerde.
Bredere implicaties
Dit incident benadrukt de ernstige risico’s van het ongecontroleerd genereren van AI-beelden. Het gebrek aan waarborgen op het platform van X heeft gebruikers blootgesteld aan mogelijke juridische en ethische schendingen, waaronder NCII- en CSAM-wetten. Hoewel sommige Amerikaanse wetgevers kritiek hebben geuit op het platform, blijft concrete actie beperkt. De situatie roept kritische vragen op over de verantwoordelijkheid van technologiebedrijven om door AI gegenereerde inhoud te modereren en de privacy van gebruikers te beschermen.
Dit schandaal onderstreept hoe snel generatieve AI kan worden ingezet voor kwaadaardige doeleinden. Zonder robuuste moderatie en ethische richtlijnen lopen platforms als X het risico een broedplaats te worden voor uitbuiting en misbruik.
Het incident herinnert ons er duidelijk aan dat de snelle vooruitgang van AI-technologie een even snelle ontwikkeling van veiligheidsmaatregelen en wettelijke kaders vereist om schade te voorkomen.
