Platforma X ogłosiła ograniczenie generowania i edytowania wyraźnych zdjęć prawdziwych osób za pomocą Grok. Decyzja ta następuje po tygodniach kontrowersji związanych z seksualnie nacechowanymi deepfake’ami, które krążyły na platformie.
Zgodnie z zasadami X, obrazy prawdziwych osób w odsłaniającej odzieży, takiej jak bikini, nie mogą być już modyfikowane przez GROK. Firma informuje, że wprowadziła środki techniczne i stosuje blokady geograficzne na obszarach, gdzie tego typu treści są nielegalne. Oznacza to, że X może uniemożliwić korzystanie z Grok do tworzenia nagich zdjęć w Europie, lecz w innych miejscach może je dalej dopuszczać.
Europejscy liderzy zareagowali ostro. Przewodnicząca Komisji Europejskiej Ursula von der Leyen nazwała cyfrowe rozbieranie kobiet i dzieci „nie do pomyślenia” i mówiła o realnych szkodach spowodowanych niezgodnymi z zgodą deepfake’ami.
Komisja Europejska nakazała X zachować wszystkie dokumenty i dane dotyczące Grok. Ma to służyć nadzorowi nad przeciwdziałaniem seksualnie eksplicytnym deepfake’om powstałym bez zgody. Dzięki temu Bruksela może podjąć kroki prawne przeciw Muskowi.
Europejscy regulatorzy podkreślają, że ogłoszone kroki nie są ostateczne. Będą oceniać, czy działania faktycznie chronią obywateli i utrzymają śledztwa w ramach DSA tak długo, jak nie zostanie potwierdzona skuteczność tych środków.
Także krajowe organy nadzoru monitorują sytuację. W Wielkiej Brytanii Ofcom powitał tę inicjatywę, ale poinformował, że formalne śledztwo w sprawie możliwych naruszeń trwa nadal. Podobne działania podjęła również Indonezja.
X twierdzi, że dodatkowo ograniczył generowanie obrazów Grok, między innymi wiążąc funkcje z płatnymi subskrypcjami. Oznacza to, że na całym świecie Grok może być wyłączony dla bezpłatnych użytkowników X, lecz płacący klienci mogą nadal z niego korzystać do tworzenia fałszywych nagich zdjęć. Regulatorzy wskazują, iż częściowy zakaz sam w sobie nie zakończy ich oceny sytuacji.
Według europejskich władz DSA nie jest jeszcze jasne, czy nowe przepisy są wystarczające. Podkreślają potrzebę egzekwowania prawa tam, gdzie to konieczne, i zapowiadają podjęcie dalszych kroków, jeśli obecne ograniczenia okażą się niewystarczające. Sprawa będzie również omawiana na przyszłotygodniowej sesji Parlamentu Europejskiego. Amerykański prezydent Trump postrzega europejskie przepisy DSA jako formę cenzury internetu.