De uitspraak van de rechtbank in Amsterdam kan daarmee een precedent scheppen in Europa. Dit gebeurt te midden van een golf van klachten over Grok wereldwijd. Inmiddels werkt het Europees Parlement aan een nog breder verbod op de doorgifte van pornografie als dat ook door kinderen kan worden bekeken.
Grok-boete
De Amsterdamse rechtbank dreigt internetbedrijven die zich niet houden aan het foto-namaak-verbod met boetes van 100.000 euro per dag. De rechtbank gaf xAI ook de opdracht om Grok niet aan te bieden op X, voorheen Twitter, zolang het bedrijf de rechterlijke uitspraak overtreedt. X-eigenaar Elon Musk heeft nog niet op het Nederlandse verbod gereageerd.
De advocaten van het bedrijf zeiden eerder dat het in januari de beveiligingsmaatregelen had aangescherpt om te voorkomen dat Grok foto's van echte mensen in onthullende kleding zou bewerken, onder meer door het genereren van afbeeldingen te beperken tot betalende abonnees. Dat vond de Nederlandse rechter niet afdoende.
Promotion
Breder EU-verbod
De Europese Commissie opende in januari een formeel onderzoek naar X vanwege de risico's die verbonden zijn aan de uitrol van Grok in de EU. Donderdag steunde het Europees Parlement ook een verbod op AI-apps die seksueel expliciete afbeeldingen creëren of manipuleren.
Een dergelijk verbod zou al later dit jaar van kracht kunnen worden. Amerikaanse techbedrijven verzetten zich tegen de Europese beperkingen op het internetverkeer. Zij noemen dat censuur.