Nền tảng X đã thông báo sẽ hạn chế việc tạo và chỉnh sửa hình ảnh nhạy cảm của người thật bằng Grok. Bước này được đưa ra sau nhiều tuần gây tranh cãi về các video deepfake mang nội dung tình dục lan truyền trên nền tảng.
Theo X, hình ảnh người thật mặc trang phục hở như bikini sẽ không còn được GROK chỉnh sửa. Công ty cho biết họ đã áp dụng các biện pháp kỹ thuật và sử dụng geoblocking tại những khu vực pháp lý cấm loại nội dung này. Điều đó có nghĩa rằng X có thể ngăn chặn việc dùng Grok tạo ảnh khỏa thân tại châu Âu, nhưng vẫn cho phép ở các nơi khác.
Các lãnh đạo châu Âu phản ứng mạnh mẽ. Chủ tịch Ủy ban Ursula von der Leyen gọi hành động số hóa tước quần áo của nữ giới và trẻ em là “hành vi không thể chấp nhận” và nhấn mạnh mức độ tổn hại thực tế do các deepfake không được phép.
Ủy ban Châu Âu đã yêu cầu X lưu giữ tất cả tài liệu và dữ liệu liên quan đến Grok. Việc này nhằm giám sát cách xử lý các deepfake tình dục được tạo mà không có sự đồng ý. Qua đó, Brussels có thể tiến hành các bước đối phó với Musk.
Các cơ quan quản lý châu Âu nhấn mạnh rằng các biện pháp công bố chưa phải điểm kết thúc. Họ vẫn đánh giá xem các biện pháp có thực sự bảo vệ công dân hay không và tiếp tục duy trì các cuộc điều tra DSA cho đến khi hiệu quả được xác nhận.
Các cơ quan quốc gia cũng theo dõi sát tình hình. Tại Vương quốc Anh, Ofcom gọi bước đi này là “được hoan nghênh” nhưng cho biết cuộc điều tra chính thức về các vi phạm có thể vẫn tiếp diễn. Indonesia cũng đã có hành động tương tự.
X cho biết đã thu hẹp hơn nữa khả năng tạo hình qua Grok, bao gồm việc gắn các chức năng với gói đăng ký trả phí. Điều này có nghĩa là người dùng miễn phí có thể bị ngăn chặn toàn cầu, nhưng khách hàng trả tiền vẫn được phép dùng Grok để tạo ảnh khỏa thân giả mạo. Các cơ quan quản lý cho rằng việc cấm một phần không đồng nghĩa với việc kết thúc quá trình đánh giá.
Về việc các quy định mới có đáp ứng hay không, theo các cơ quan chức năng DSA châu Âu vẫn chưa rõ ràng. Họ sẽ tiếp tục thực thi khi cần thiết và cảnh báo sẽ có thêm biện pháp nếu giới hạn hiện tại không đủ. Vấn đề này cũng sẽ được đưa vào chương trình nghị sự của Nghị viện Châu Âu tuần tới. Tổng thống Mỹ Trump coi các quy định DSA của châu Âu về sử dụng internet là hình thức kiểm duyệt.