Het platform X heeft aangekondigd het genereren en bewerken van expliciete afbeeldingen van echte mensen met Grok te zullen beperken. Die stap volgt op weken van ophef over seksueel getinte deepfakes die via het platform circuleerden.
Volgens X mogen niet langer afbeeldingen van echte mensen in onthullende kleding, zoals bikini’s, door GROK worden bewerkt. Het bedrijf zegt technische maatregelen te hebben ingevoerd en werkt met geoblocking in rechtsgebieden waar dit soort content illegaal is. Dat betekent dat X het Grok-gebruik voor naaktbeelden wel onmogelijk kan maken in Europa, maar elders kan blijven toestaan.
Europese leiders reageerden fel. Commissievoorzitter Ursula von der Leyen noemde het digitaal uitkleden van vrouwen en kinderen “onvoorstelbaar gedrag” en sprak van reële schade door niet-consensuele deepfakes.
De Europese Commissie heeft X inmiddels opgedragen alle documenten en gegevens rond Grok te bewaren. Dat gebeurt in het kader van toezicht op de aanpak van seksueel expliciete deepfakes die zonder toestemming zijn gemaakt. Daarmee kan Brussel stappen tegen Musk ondernemen.
Europese toezichthouders benadrukken dat de aangekondigde ingrepen geen eindpunt zijn. Zij beoordelen of de maatregelen burgers daadwerkelijk beschermen en houden hun DSA-onderzoeken open zolang de effectiviteit niet vaststaat.
Ook nationale toezichthouders volgen de situatie. In het Verenigd Koninkrijk noemde Ofcom de stap “welkom”, maar liet weten dat het formele onderzoek naar mogelijke overtredingen doorloopt. Ook Indonesië treedt er tegen op.
X stelt dat het beeldgeneratie met Grok verder heeft beperkt, onder meer door functies te koppelen aan betaalde abonnementen. Dat betekent dat het wel wereldwijd kan worden uitgeschakeld voor gratis X-gebruikers, maar dat betalende klanten Grok mogen blijven gebruiken voor het maken van namaak-naaktfoto’s. Toezichthouders geven aan dat een gedeeltelijk verbod op zichzelf geen einde maakt aan hun beoordeling.
Of de nieuwe regels voldoen, is volgens de Europese DSA-autoriteiten nog onduidelijk. Zij houden vast aan handhaving waar nodig en zeggen aanvullende stappen te zullen zetten als de beperkingen tekortschieten. De kwestie staat volgende week ook op de agenda van het Europees Parlement. De Amerikaanse president Trump ziet de Europese DSA-regels voor internetgebruik als een vorm van censuur.