Platform X telah mengumumkan akan membatasi pembuatan dan pengeditan gambar eksplisit dari orang asli menggunakan Grok. Langkah ini diambil setelah berminggu-minggu kontroversi mengenai deepfake bernuansa seksual yang beredar di platform tersebut.
Sesuai pernyataan X, gambar orang asli yang memakai pakaian terbuka seperti bikini tidak lagi boleh diedit oleh GROK. Perusahaan mengklaim telah menerapkan langkah teknis dan menggunakan pemblokiran geografis di wilayah yang konten semacam itu ilegal. Artinya, X dapat memblokir penggunaan Grok untuk gambar telanjang di Eropa, namun masih mengizinkan di wilayah lain.
Pemimpin Eropa bereaksi keras. Ketua Komisi Ursula von der Leyen menyebut digitalisasi penghilangan pakaian pada wanita dan anak-anak sebagai "perilaku yang tidak dapat dibayangkan" dan menyoroti kerusakan nyata akibat deepfake yang dibuat tanpa persetujuan.
Promotion
Komisi Eropa telah memerintahkan X untuk menyimpan semua dokumen dan data terkait Grok. Ini bagian dari pengawasan terhadap penanganan deepfake eksplisit seksual yang dibuat tanpa izin. Dengan langkah ini, Brussel dapat mengambil tindakan terhadap Musk.
Pengawas Eropa menegaskan bahwa tindakan yang diumumkan bukanlah akhir dari segalanya. Mereka akan menilai apakah langkah-langkah tersebut benar-benar melindungi warga dan akan mempertahankan penyelidikan DSA selama efektivitasnya belum jelas.
Pengawas nasional juga mengikuti situasi. Di Britania Raya, Ofcom menyebut langkah ini "disambut baik", namun menyatakan penyelidikan formal terhadap kemungkinan pelanggaran masih berlangsung. Indonesia juga melakukan tindakan serupa.
X menyatakan bahwa pembatasan pada pembuatan gambar dengan Grok semakin diperketat, termasuk mengaitkan fungsi tersebut dengan langganan berbayar. Artinya, fitur ini dapat dinonaktifkan secara global untuk pengguna X gratis, namun pelanggan berbayar tetap dapat menggunakan Grok untuk membuat foto palsu telanjang. Pengawas menilai larangan parsial saja tidak cukup untuk mengakhiri penilaian mereka.
Apakah aturan baru tersebut memadai masih belum jelas menurut otoritas DSA Eropa. Mereka tetap berpegang pada penegakan hukum bila diperlukan dan menyatakan akan mengambil langkah tambahan jika pembatasan dirasa belum memadai. Masalah ini juga akan dibahas dalam agenda Parlemen Eropa pekan depan. Presiden Amerika Trump melihat aturan internet DSA Eropa sebagai bentuk sensor.