Los Estados miembros de la UE y el Parlamento Europeo alcanzaron un acuerdo para prohibir los servicios de inteligencia artificial que permiten crear imágenes sexuales falsas sin consentimiento. La normativa entrará en vigor el 2 de diciembre de 2026.
Los Estados miembro de la Unión Europea (UE) y el Parlamento Europeo alcanzaron un acuerdo este jueves para prohibir en sus territorios los servicios de inteligencia artificial (IA) que permiten “desnudar” a personas sin su consentimiento y crear imágenes sexuales falsas. La iniciativa surge, entre otros motivos, después de que hace algunos meses Grok, el asistente de inteligencia artificial de la red social X de Elon Musk, incorporara una función que permitía a los usuarios crear montajes hiperrealistas deepfakes de adultos y niños desnudos a partir de fotografías reales y sin consentimiento.
Según informó la Agence France-Presse (AFP), la nueva prohibición apunta a los sistemas capaces de generar imágenes, videos y audios de carácter pedopornográfico, o que representen las partes íntimas de una persona identificable, o la muestren participando en actividades sexuales sin su consentimiento. La medida fue adoptada en el marco de una revisión de la legislación europea sobre inteligencia artificial, conocida como AI Act, una ley pionera aprobada formalmente hace dos años.
El martes, la primera ministra italiana, Giorgia Meloni, denunció imágenes falsas generadas con inteligencia artificial en su cuenta de Instagram. “En estos días circulan varias fotos falsas mías, generadas con inteligencia artificial y difundidas como verdaderas por algún opositor diligente. Los deepfakes son una herramienta peligrosa porque pueden engañar, manipular y afectar a cualquiera”, escribió. También circuló un video publicado en diciembre de 2024 en el que aparecía en un beso apasionado con Elon Musk.
La nueva regulación entrará en vigor el 2 de diciembre de 2026. A partir de esa fecha, las inteligencias artificiales deberán contar con medidas de seguridad que les impidan generar este tipo de contenidos. Los 27 Estados miembro y los eurodiputados también aceptaron postergar la entrada en vigor de nuevas normas destinadas a regular la actividad de los sistemas de IA considerados “de alto riesgo”, es decir, aquellos utilizados en áreas sensibles como la seguridad, la salud o los derechos fundamentales.
Desde hace varios meses existía una ola de indignación internacional. Numerosas mujeres denunciaron haber sido víctimas de usuarios que pedían generar imágenes de ellas en bikini o desnudas con la IA Grok. El 8 de enero de 2026, la diputada federal belga Victoria Vandenberg mostró una imagen de sí misma creada con Grok para alertar sobre el problema. La Alta Comisionada para la Infancia de Francia, Sarah El Haïry, llevó el caso ante la Justicia. Liz Kendall, secretaria de Estado de Ciencia, Innovación y Tecnología del Reino Unido, afirmó que el contenido que circuló en X es “abyecto e ilegal”.
Tras las denuncias, Elon Musk anunció el 14 de enero medidas para impedir que se “desnudara” a personas reales en las jurisdicciones donde esa práctica era ilegal. Más allá de la UE, otros países como Indonesia y Malasia suspendieron el acceso a Grok a su población.