Domstolens afgørelse i Amsterdam kan dermed skabe præcedens i Europa. Dette sker midt i en bølge af klager over Grok verden over. Europa-Parlamentet arbejder allerede på et endnu bredere forbud mod distribution af pornografi, hvis det også kan ses af børn.
Grok-bøde
Den amsterdamske domstol truer internetvirksomheder, der ikke overholder foto-forfalsknings-forbuddet, med bøder på 100.000 euro per dag. Domstolen beordrede også xAI til ikke at tilbyde Grok på X, tidligere Twitter, så længe virksomheden overtræder domstolens afgørelse. X-ejer Elon Musk har endnu ikke reageret på det hollandske forbud.
Virksomhedens advokater sagde tidligere, at man i januar havde skærpet sikkerhedsforanstaltninger for at forhindre, at Grok ville redigere billeder af rigtige mennesker i afslørende tøj, blandt andet ved at begrænse billedgenerering til betalende abonnenter. Det fandt den hollandske dommer ikke tilstrækkeligt.
Promotion
Bredere EU-forbud
Europa-Kommissionen indledte i januar en formel undersøgelse af X på grund af risiciene ved udbredelsen af Grok i EU. Torsdag støttede Europa-Parlamentet også et forbud mod AI-apps, der skaber eller manipulerer seksuelt eksplicitte billeder.
Et sådant forbud kan træde i kraft allerede senere i år. Amerikanske techvirksomheder modsætter sig de europæiske begrænsninger på internettrafikken og kalder det censur.