Platformen X har annonceret, at de vil begrænse genereringen og redigeringen af eksplicitte billeder af virkelige mennesker med Grok. Det følger efter ugers offentlig debat om seksuelt tonede deepfakes, der cirkulerede via platformen.
Ifølge X må billeder af virkelige personer i afslørende tøj, såsom bikinier, ikke længere redigeres af GROK. Virksomheden siger, at de har indført tekniske foranstaltninger og arbejder med geoblokering i jurisdiktioner, hvor denne type indhold er ulovligt. Det betyder, at X kan gøre brugen af Grok til nøgenbilleder umulig i Europa, men stadig tillade det andre steder.
Europæiske ledere reagerede kraftigt. Kommissionsformand Ursula von der Leyen kaldte den digitale afklædning af kvinder og børn for ”ufattelig opførsel” og talte om reel skade som følge af ikke-samtykkende deepfakes.
Den Europæiske Kommission har allerede beordret X til at bevare alle dokumenter og data vedrørende Grok. Dette sker i forbindelse med tilsynet af håndteringen af seksuelt eksplicitte deepfakes, der er lavet uden tilladelse. Dermed kan Bruxelles tage skridt mod Musk.
Europæiske tilsynsmyndigheder understreger, at de annoncerede indgreb ikke er endelige. De vurderer, om tiltagene reelt beskytter borgerne og holder deres DSA-undersøgelser åbne, så længe effektiviteten ikke er bekræftet.
Også nationale tilsynsmyndigheder følger situationen. I Storbritannien kaldte Ofcom skridtet ”velkomment”, men meddelte, at den formelle undersøgelse af mulige overtrædelser fortsætter. Også Indonesien tager aktion.
X oplyser, at de yderligere har begrænset billedgenerering med Grok, blandt andet ved at knytte funktioner til betalte abonnementer. Det betyder, at det globalt kan slås fra for gratis brugere på X, men betalende kunder kan fortsat bruge Grok til at lave falske nøgenbilleder. Tilsynsmyndighederne påpeger, at et delvist forbud ikke i sig selv afslutter deres vurdering.
Om de nye regler er tilstrækkelige, er ifølge de europæiske DSA-myndigheder fortsat usikkert. De fastholder håndhævelse, hvor det er nødvendigt, og siger, at yderligere skridt vil blive taget, hvis begrænsningerne viser sig utilstrækkelige. Spørgsmålet står også på dagsordenen i Europa-Parlamentet i næste uge. Den amerikanske præsident Trump ser EU’s DSA-regler for internetbrug som en form for censur.