A plataforma X anunciou que irá limitar a geração e edição de imagens explícitas de pessoas reais com o Grok. Essa decisão ocorre após semanas de controvérsia em torno de deepfakes de conteúdo sexual que circulavam pela plataforma.
Segundo a X, não será mais permitido que imagens de pessoas reais usando roupas reveladoras, como biquínis, sejam editadas pelo GROK. A empresa afirma ter implementado medidas técnicas e utiliza geoblocking em jurisdições onde esse tipo de conteúdo é ilegal. Isso significa que a X pode bloquear o uso do Grok para imagens de nudez na Europa, mas continuar permitindo em outras regiões.
Líderes europeus reagiram veementemente. A presidente da Comissão, Ursula von der Leyen, chamou a nudez digital de mulheres e crianças de "comportamento inconcebível" e falou sobre os danos reais causados por deepfakes não consensuais.
A Comissão Europeia já ordenou que a X preserve todos os documentos e dados relacionados ao Grok. Isso faz parte da supervisão da abordagem contra deepfakes sexualmente explícitos realizados sem consentimento. Assim, Bruxelas poderá tomar medidas contra Musk.
Os reguladores europeus enfatizam que as ações anunciadas não são um ponto final. Eles avaliam se as medidas realmente protegem os cidadãos e mantêm suas investigações no âmbito do DSA abertas enquanto a eficácia não for comprovada.
Também reguladores nacionais acompanham a situação. No Reino Unido, a Ofcom chamou a medida de "bem-vinda", mas informou que a investigação formal sobre possíveis violações continua. A Indonésia também está atuando contra a prática.
A X afirma ter restringido ainda mais a geração de imagens com o Grok, incluindo a vinculação de funcionalidades a assinaturas pagas. Isso significa que pode ser desativado globalmente para usuários gratuitos da X, mas clientes pagantes poderão continuar usando o Grok para criar fotos falsas de nudez. Os reguladores indicam que uma proibição parcial não encerra sua avaliação sobre o caso.
Segundo as autoridades europeias responsáveis pelo DSA, ainda não está claro se as novas regras são suficientes. Mantêm a política de aplicação quando necessário e afirmam que tomarão medidas adicionais caso as restrições sejam insuficientes. O tema também consta da agenda do Parlamento Europeu na próxima semana. O presidente americano Trump vê as regras europeias do DSA para o uso da internet como uma forma de censura.