Plattformen X har meddelat att generering och redigering av explicita bilder på verkliga personer med Grok kommer att begränsas. Detta beslut kommer efter veckor av upprördhet över sexuellt antydda deepfakes som cirkulerat via plattformen.
Enligt X får bilder på verkliga personer i avslöjande kläder, som bikinis, inte längre redigeras med GROK. Företaget säger att tekniska åtgärder har införts och att man använder geoblockering i jurisdiktioner där den typen av innehåll är olagligt. Det innebär att X kan göra det omöjligt att använda Grok för nakenbilder i Europa, men låta det fortsätta på andra platser.
Europeiska ledare reagerade kraftfullt. EU-kommissionens ordförande Ursula von der Leyen kallade den digitala nakenredigeringen av kvinnor och barn för "ofattbart beteende" och talade om verklig skada orsakat av icke-samtyckta deepfakes.
Europeiska kommissionen har redan beordrat X att bevara alla dokument och data relaterade till Grok. Detta sker inom ramen för tillsyn av hanteringen av sexuellt explicita deepfakes som skapats utan samtycke. På så sätt kan Bryssel vidta åtgärder mot Musk.
Europeiska tillsynsmyndigheter betonar att de meddelade åtgärderna inte är en slutpunkt. De utvärderar om åtgärderna verkligen skyddar medborgarna och håller sina DSA-utredningar öppna så länge effektiviteten inte är fastställd.
Även nationella tillsynsmyndigheter följer situationen. I Storbritannien kallade Ofcom åtgärden för "välkommen" men meddelade att den formella utredningen om möjliga överträdelser fortsätter. Även Indonesien agerar mot detta.
X uppger att man har begränsat bildgenereringen med Grok ytterligare, bland annat genom att koppla funktioner till betalabonnemang. Det innebär att Grok kan stängas av globalt för gratisanvändare av X, men betalande kunder får fortsätta använda Grok för att skapa fejkade nakenbilder. Tillsynsmyndigheterna anger att ett delvis förbud i sig inte avslutar deras bedömning.
Huruvida de nya reglerna räcker är enligt de europeiska DSA-myndigheterna fortfarande oklart. De håller fast vid tillsyn där det behövs och säger att ytterligare åtgärder kommer att vidtas om begränsningarna är otillräckliga. Frågan finns också med på agendan i Europaparlamentet nästa vecka. Den amerikanska presidenten Trump ser de europeiska DSA-reglerna för internetanvändning som en form av censur.