Alusta X on ilmoittanut rajoittavansa todellisten ihmisten seksuaalissävytteisten kuvien luomista ja muokkaamista Grokin avulla. Tämä päätös seuraa viikkojen mittaista kohua seksuaalisesti latautuneista deepfake-kuvista, joita on kierrätetty alustan kautta.
X:n mukaan GROK ei saa enää muokata kuvia todellisista ihmisistä paljastavissa vaatteissa, kuten bikineissä. Yhtiö kertoo ottaneensa käyttöön teknisiä toimenpiteitä ja käyttää maantieteellistä estoja alueilla, missä tämän tyyppinen sisältö on laitonta. Tämä tarkoittaa sitä, että X voi estää Grokin käytön alastonkuviin Euroopassa, mutta muilla alueilla sen käyttö voi jatkua.
Euroopan johtajat reagoivat tiukasti. Komission puheenjohtaja Ursula von der Leyen kuvaili naisten ja lasten digitaalisia riisumisia ”kuvottavaksi käytökseksi” ja totesi, että suostumuksettomat deepfake-kuvat aiheuttavat todellista haittaa.
Euroopan komissio on jo määrännyt X:n säilyttämään kaikki Grokiin liittyvät asiakirjat ja tiedot. Tämä tehdään valvontatoimenpiteenä seksuaalisesti latautuneiden, ilman lupaa tehtyjen deepfake-kuvien torjumiseksi. Näin Bryssel voi ryhtyä toimiin Muskia vastaan.
Eurooppalaiset valvontaviranomaiset korostavat, että ilmoitetut toimet eivät ole lopullisia. He arvioivat, suojaavatko toimet todella kansalaisia, ja ylläpitävät DSA-tutkimuksia niin kauan kuin toimenpiteiden tehoa ei ole varmistettu.
Myös kansalliset valvontaviranomaiset seuraavat tilannetta. Yhdistyneessä kuningaskunnassa Ofcom kutsui toimia ”tervetulleiksi”, mutta kertoi, että muodollinen tutkinta mahdollisista rikkomuksista jatkuu. Myös Indonesia on ryhtynyt toimiin.
X ilmoittaa rajoittaneensa kuva-generointia Grokin avulla edelleen mm. sitomalla ominaisuuksia maksullisiin tilauksiin. Tämä tarkoittaa, että se voidaan poistaa maailmanlaajuisesti maksuttomilta X-käyttäjiltä, mutta maksavilla asiakkailla on edelleen lupa käyttää Grokia väärennettyjen alastonkuvien tekoon. Valvojat toteavat, ettei osittainen kielto yksinään päätä heidän arvioitaan.
On epäselvää, ovatko uudet säännöt riittäviä, Euroopan DSA-viranomaisten mukaan. He jatkavat valvontaa tarvittaessa ja lupaavat ryhtyä lisätoimiin, jos rajoitukset osoittautuvat riittämättömiksi. Asia on myös Euroopan parlamentin seuraavan viikon agendalla. Yhdysvaltain presidentti Trump pitää Euroopan DSA-sääntöjä internetin käytön osalta sensuurin muotona.