La plateforme X a annoncé qu'elle allait restreindre la génération et la modification d’images explicites de vraies personnes via Grok. Cette décision intervient après des semaines de scandales liés à des deepfakes à connotation sexuelle circulant sur la plateforme.
Selon X, les images de vraies personnes en tenue révélatrice, comme des bikinis, ne peuvent plus être modifiées par GROK. L’entreprise dit avoir mis en place des mesures techniques et utilise le géoblocage dans les zones où ce type de contenu est illégal. Cela signifie que X peut bloquer l’utilisation de Grok pour les images nues en Europe, tout en le maintenant ailleurs.
Les dirigeants européens ont réagi vivement. La présidente de la Commission Ursula von der Leyen a qualifié la dénudation numérique des femmes et des enfants d’« acte inconcevable » et a évoqué les dommages réels causés par les deepfakes non consentis.
La Commission européenne a ordonné à X de conserver tous les documents et données liés à Grok. Cela s’inscrit dans le cadre de la surveillance de la lutte contre les deepfakes à caractère sexuel réalisés sans consentement. Bruxelles pourra ainsi prendre des mesures contre Musk.
Les autorités européennes de régulation soulignent que les mesures annoncées ne constituent pas une fin en soi. Elles évaluent si ces mesures protègent réellement les citoyens et maintiennent leurs enquêtes sur la DSA ouvertes tant que leur efficacité n’est pas démontrée.
Les régulateurs nationaux surveillent également la situation. Au Royaume-Uni, Ofcom a qualifié la décision de « bienvenue » mais a indiqué que l’enquête formelle sur des infractions potentielles se poursuit. L’Indonésie agit également.
X affirme avoir restreint davantage la génération d’images avec Grok, notamment en associant certaines fonctions à des abonnements payants. Cela signifie que Grok peut être désactivé mondialement pour les utilisateurs gratuits de X, mais que les clients payants peuvent continuer à l’utiliser pour créer de fausses photos nues. Les régulateurs indiquent qu’une interdiction partielle ne met pas fin à leur évaluation.
Selon les autorités européennes en charge de la DSA, il n’est pas encore clair si les nouvelles règles sont suffisantes. Elles maintiennent leur politique de contrôle et annoncent qu’elles prendront des mesures supplémentaires si les restrictions s’avèrent insuffisantes. La question sera également abordée la semaine prochaine au Parlement européen. Le président américain Trump considère les règles DSA européennes sur l’utilisation d’internet comme une forme de censure.