プラットフォームXは、Grokによる実在人物の性的に露骨な画像の生成および編集を制限すると発表した。この措置は、プラットフォーム上での性的内容を含むディープフェイクが数週間にわたり問題視されたことを受けたものである。
Xによると、Grokは今後、ビキニなどの露出度の高い衣服を着た実在人物の画像を編集することは認められない。企業は技術的措置を実施し、こうしたコンテンツが違法な法域ではジオブロッキング（地域制限）を行っている。つまり、Xはヨーロッパでは裸画像作成のためのGrokの使用を不可能にできるが、他地域では継続が認められる可能性があるという。
欧州の指導者たちは強く反発した。欧州委員会委員長のウルズラ・フォン・デア・ライエン氏は、女性や子どもをデジタル的に裸にする行為を「想像を絶する行動」と呼び、同意のないディープフェイクによる実害を指摘した。
欧州委員会はすでにXに対し、Grokに関する全ての文書およびデータの保存を命じている。これは、無断で作成された性的露骨なディープフェイクに対する監督の一環であり、これによりブリュッセルはマスク氏に対して措置を取ることが可能となる。
欧州の監督機関は、今回発表された措置が最終段階ではないと強調している。実際に国民を守る効果があるかを評価し、効果が確立されるまでDSAの調査を継続する方針だ。
各国の監督機関も状況を注視している。英国ではOfcomが今回の措置を「歓迎すべき」としつつも、疑わしい違反についての正式調査は継続中であることを明らかにした。インドネシアも対抗措置をとっている。
Xは、Grokの画像生成機能を制限し、特に有料サブスクリプションとの紐付けを行ったとしている。これは無料ユーザーに対しては世界的に無効化可能だが、有料利用者は偽裸写真作成のためGrokを引き続き使用できることを意味する。監督機関は部分的な禁止だけでは評価を終えないと示唆している。
欧州DSA当局によれば、新ルールが十分かどうかはまだ不明確だ。必要に応じて法執行を強化し、制限が不十分であれば追加措置を講じると述べている。この問題は来週の欧州議会の議題にも上がる予定だ。なお、米国大統領トランプ氏は欧州のDSA規則をインターネット利用に対する検閲の一形態とみなしている。