Domen från domstolen i Amsterdam kan därmed skapa ett prejudikat i Europa. Detta sker mitt i en våg av klagomål om Grok världen över. Europaparlamentet arbetar redan på ett ännu bredare förbud mot spridning av pornografi som även kan ses av barn.
Grok-böter
Domstolen i Amsterdam hotar internetföretag som bryter mot förbudet mot fejkfoton med böter på 100 000 euro per dag. Domstolen gav även xAI i uppdrag att inte erbjuda Grok på X, tidigare Twitter, så länge företaget bryter mot domstolens beslut. X-ägaren Elon Musk har ännu inte kommenterat det nederländska förbudet.
Företagets advokater uppgav tidigare att de i januari skärpt säkerhetsåtgärderna för att förhindra att Grok redigerar bilder på verkliga personer i avslöjande kläder, bland annat genom att begränsa bildgenereringen till betalande abonnenter. Detta ansåg dock inte den nederländska domstolen vara tillräckligt.
Promotion
Bredare EU-förbud
Europakommissionen inledde i januari en formell undersökning av X på grund av riskerna kopplade till lanseringen av Grok inom EU. I torsdags stödde Europaparlamentet även ett förbud mot AI-appar som skapar eller manipulerar sexuellt explicita bilder.
Ett sådant förbud skulle kunna träda i kraft redan senare i år. Amerikanska teknikföretag motsätter sig de europeiska begränsningarna för internettrafik och kallar det censur.