La plataforma X ha anunciado que limitará la generación y edición de imágenes explícitas de personas reales con Grok. Esta decisión llega después de semanas de controversia por deepfakes de contenido sexual que circulaban a través de la plataforma.
Según X, ya no se permitirán imágenes de personas reales con ropa reveladora, como bikinis, que sean editadas por GROK. La empresa afirma haber implementado medidas técnicas y trabaja con bloqueo geográfico en jurisdicciones donde este tipo de contenido es ilegal. Esto significa que X puede impedir el uso de Grok para imágenes desnudas en Europa, pero permitirlo en otros lugares.
Los líderes europeos reaccionaron con dureza. La presidenta de la Comisión, Ursula von der Leyen, calificó el desnudamiento digital de mujeres y niños como un “comportamiento inconcebible” y habló de un daño real debido a deepfakes no consensuados.
La Comisión Europea ha ordenado a X que conserve todos los documentos y datos relacionados con Grok. Esta medida forma parte de la supervisión del manejo de deepfakes sexualmente explícitos realizados sin consentimiento. Esto permitirá a Bruselas tomar medidas contra Musk.
Los reguladores europeos enfatizan que las medidas anunciadas no son el punto final. Evaluarán si las acciones protegen realmente a los ciudadanos y mantendrán abiertas sus investigaciones bajo la DSA mientras no se confirme la efectividad de las restricciones.
También los reguladores nacionales siguen la situación. En Reino Unido, Ofcom calificó el paso como “bienvenido”, pero indicó que la investigación formal sobre posibles infracciones continúa. Además, Indonesia también está tomando medidas al respecto.
X afirma que ha restringido aún más la generación de imágenes con Grok, por ejemplo, vinculando ciertas funciones a suscripciones pagadas. Esto significa que el uso puede desactivarse mundialmente para usuarios gratuitos de X, pero los clientes que pagan pueden seguir utilizando Grok para crear fotos falsas de desnudos. Los reguladores señalan que una prohibición parcial por sí sola no pone fin a su evaluación.
Según las autoridades europeas de la DSA, aún no está claro si las nuevas reglas son suficientes. Mantendrán la aplicación de la ley cuando sea necesario y aseguran que tomarán medidas adicionales si las restricciones resultan insuficientes. El tema también figura en la agenda del Parlamento Europeo la próxima semana. El presidente estadounidense Trump ve las reglas europeas DSA para el uso de internet como una forma de censura.