Dommen fra domstolen i Amsterdam kan dermed sette en presedens i Europa. Dette skjer midt i en bølge av klager mot Grok på verdensbasis. Europa-parlamentet arbeider nå med et enda bredere forbud mot distribusjon av pornografi som også kan sees av barn.
Grok-bot
Amsterdam-domstolen truer internett-selskaper som ikke overholder forbudet mot forfalskede bilder med bøter på 100.000 euro per dag. Domstolen ga også xAI pålegg om ikke å tilby Grok på X, tidligere Twitter, så lenge selskapet bryter rettsavgjørelsen. X-eier Elon Musk har ennå ikke kommentert det nederlandske forbudet.
Selskapets advokater uttalte tidligere at de i januar hadde skjerpet sikkerhetstiltak for å forhindre at Grok redigerer bilder av ekte mennesker i avslørende klær, blant annet ved å begrense bildeproduksjon til betalende abonnenter. Det mente ikke den nederlandske dommeren var tilstrekkelig.
Promotion
Bredere EU-forbud
Den europeiske kommisjonen åpnet i januar en formell undersøkelse av X på grunn av risikoen knyttet til utrullingen av Grok i EU. Torsdag støttet Europa-parlamentet også et forbud mot AI-apper som lager eller manipulerer seksuelt eksplisitte bilder.
Et slikt forbud kan tre i kraft allerede senere i år. Amerikanske teknologiselskaper motsetter seg de europeiske begrensningene på internett-trafikk. De omtaler dette som sensur.