Die Plattform X hat angekündigt, das Erzeugen und Bearbeiten expliziter Bilder realer Personen mit Grok einzuschränken. Dieser Schritt folgt auf wochenlange Empörung über sexuell anzügliche Deepfakes, die über die Plattform kursierten.
Nach Angaben von X dürfen keine Bilder realer Personen in aufreizender Kleidung, wie Bikinis, mehr mit GROK bearbeitet werden. Das Unternehmen gibt an, technische Maßnahmen umgesetzt zu haben und setzt Geoblocking in Rechtsgebieten ein, in denen solche Inhalte illegal sind. Das bedeutet, dass X die Nutzung von Grok für Nacktbilder in Europa unmöglich machen kann, aber anderswo weiterhin erlaubt.
Europäische Führungspersönlichkeiten reagierten scharf. Kommissionspräsidentin Ursula von der Leyen bezeichnete das digitale Entkleiden von Frauen und Kindern als „undenkbares Verhalten“ und sprach von realen Schäden durch nicht einvernehmliche Deepfakes.
Die Europäische Kommission hat X inzwischen angewiesen, alle Dokumente und Daten rund um Grok aufzubewahren. Dies geschieht im Rahmen der Aufsicht über den Umgang mit sexuell expliziten Deepfakes, die ohne Zustimmung erstellt wurden. Damit kann Brüssel Schritte gegen Musk einleiten.
Europäische Aufsichtsbehörden betonen, dass die angekündigten Maßnahmen kein Endpunkt sind. Sie bewerten weiterhin, ob die Maßnahmen die Bürger tatsächlich schützen, und halten ihre DSA-Untersuchungen offen, solange die Wirksamkeit nicht feststeht.
Auch nationale Aufsichtsbehörden verfolgen die Lage. Im Vereinigten Königreich begrüßte Ofcom den Schritt als „willkommen“, ließ aber wissen, dass die formelle Untersuchung möglicher Verstöße weiterläuft. Auch Indonesien geht gegen die Praxis vor.
X erklärt, die Bildgenerierung mit Grok weiter eingeschränkt zu haben, unter anderem durch Kopplung von Funktionen an kostenpflichtige Abonnements. Das bedeutet, dass die Funktion für kostenlose X-Nutzer weltweit abgeschaltet werden kann, zahlende Kunden Grok jedoch weiterhin zum Erstellen gefälschter Nacktfotos verwenden dürfen. Aufsichtsbehörden weisen darauf hin, dass ein teilweises Verbot allein ihre Bewertung nicht beendet.
Ob die neuen Regeln genügen, ist laut den europäischen DSA-Behörden noch unklar. Sie beharren auf Durchsetzung dort, wo es nötig ist, und kündigen an, weitere Schritte zu ergreifen, falls die Beschränkungen unzureichend bleiben. Die Thematik steht nächste Woche auch auf der Tagesordnung des Europäischen Parlaments. Der US-Präsident Trump betrachtet die europäischen DSA-Regeln für die Internetnutzung als eine Form der Zensur.