Plattformen X har kunngjort at den vil begrense generering og redigering av eksplisitte bilder av ekte mennesker med Grok. Dette skjer etter uker med oppstyr rundt seksuelt ladede deepfakes som har sirkulert på plattformen.
I følge X skal bilder av ekte personer i avslørende klær, som bikinier, ikke lenger kunne redigeres med GROK. Selskapet opplyser at tekniske tiltak er innført, og at de bruker geoblokkering i jurisdiksjoner hvor denne typen innhold er ulovlig. Det betyr at X kan forhindre bruk av Grok for nakenbilder i Europa, men la det være tillatt andre steder.
Europeiske ledere reagerte kraftig. Kommisjonspresident Ursula von der Leyen kalte den digitale avkledningen av kvinner og barn for «ufattelig oppførsel» og snakket om reell skade forårsaket av ikke-samtykkebaserte deepfakes.
Den europeiske kommisjonen har nå pålagt X å bevare alle dokumenter og data knyttet til Grok. Dette er en del av tilsynet med håndteringen av seksuelt eksplisitte deepfakes laget uten samtykke. Gjennom dette kan Brussel iverksette tiltak mot Musk.
Europeiske tilsynsmyndigheter understreker at de annonserte tiltakene ikke er et endepunkt. De vurderer om tiltakene faktisk beskytter innbyggerne og holder sine DSA-undersøkelser åpne så lenge effektiviteten ikke er bekreftet.
Også nasjonale tilsyn følger situasjonen. I Storbritannia kalte Ofcom tiltaket «velkomment», men opplyste at formell etterforskning av mulige overtredelser pågår. Også Indonesia tar grep mot det.
X oppgir at de har begrenset bildeproduksjon med Grok ytterligere, blant annet ved å knytte funksjoner til betalte abonnementer. Det betyr at det kan bli skrudd av globalt for gratisbrukere, mens betalende kunder fortsatt får bruke Grok til å lage falske nakenbilder. Tilsynsmyndigheter påpeker at et delvis forbud ikke alene avslutter deres vurdering.
Om de nye reglene er tilstrekkelige, er foreløpig uklart ifølge de europeiske DSA-myndighetene. De står fast på håndheving der det trengs og sier de vil ta ytterligere grep dersom begrensningene ikke er nok. Saken står også på agendaen i Europaparlamentet neste uke. Den amerikanske presidenten Trump ser de europeiske DSA-reglene for internettbruk som en form for sensur.