La empresa xAI, de Elon Musk, presentó una demanda federal contra el estado de Minnesota por la ley que prohíbe el uso de inteligencia artificial para generar imágenes de personas sin ropa. La legislación, la primera de su tipo en Estados Unidos, entrará en vigencia próximamente.
La compañía xAI, propiedad de Elon Musk, presentó una demanda contra el estado de Minnesota en un tribunal federal, luego de que se aprobara la primera ley en Estados Unidos que prohíbe el uso de inteligencia artificial para crear imágenes falsas de personas desnudas, conocida como ‘nudificación’. La acción legal se produjo días antes de que la normativa entre en vigor.
La legislación, firmada en mayo, busca impedir que aplicaciones y sitios web utilicen IA para generar imágenes ficticias de desnudos de personas reales sin su consentimiento. En el documento judicial de 38 páginas, xAI argumenta que la ley no solo prohíbe la distribución de este tipo de imágenes, sino que también restringe la creación y posesión de contenidos protegidos constitucionalmente, lo que podría afectar la libertad de expresión.
La empresa sostiene que la normativa establece una multa de 500.000 dólares por cada infracción, sin contemplar excepciones para plataformas que actúen de buena fe para evitar la generación de contenidos ilícitos. Además, señala que la ley carece de una disposición de ‘puerto seguro’ para empresas que implementan medidas preventivas y que el concepto de ‘parte íntima’ definido por la normativa es tan amplio que incluye zonas del cuerpo comúnmente expuestas en espacios públicos.
Keith Ellison, fiscal general de Minnesota, declaró que su oficina no había sido notificada oficialmente de la demanda, pero afirmó que la creación de imágenes íntimas mediante IA sin consentimiento es ‘espantosa’ y puede causar daños personales, emocionales y profesionales de gran magnitud. ‘Hay muchos debates legítimos sobre la política de inteligencia artificial. Este no es uno de ellos. La nudificación con IA roba la dignidad de la víctima’, manifestó Ellison.
La ley de Minnesota se distingue de otras normativas estatales y federales que penalizan la creación y difusión de ‘deepfakes’ y contenidos sexuales generados por IA sin consentimiento, ya que estas últimas suelen sancionar a los usuarios que producen o comparten el material, pero no a los desarrolladores de las herramientas tecnológicas. El año pasado, el Congreso de Estados Unidos aprobó la Take It Down Act, que obliga a plataformas y aplicaciones a contar con mecanismos para eliminar este tipo de imágenes bajo pedido. Texas adoptó una aproximación distinta en 2025: responsabiliza civil y penalmente a los propietarios de webs o aplicaciones si, con conocimiento, permiten la difusión de desnudos sin consentimiento o no los retiran tras recibir la notificación correspondiente.
En la demanda, xAI explica que los términos de uso de su generador de imágenes y chatbot, Grok, prohíben expresamente la utilización de la plataforma para actividades ilegales o abusivas, incluyendo la alteración de fotografías con fines de nudificación o contenido sexual explícito. La empresa asegura que impone sanciones como la suspensión o cancelación de cuentas y reporta cualquier sospecha de explotación sexual infantil. Tras una ola de críticas globales por la circulación de imágenes sexualizadas de mujeres y menores, xAI implementó un sistema de bloqueo geográfico en Grok para impedir la edición de fotos de personas reales en ropa interior o prendas reveladoras en aquellos territorios donde está prohibido por ley.
‘Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales en atuendos como bikinis, ropa interior y otras prendas reveladoras’, indicó xAI en un comunicado emitido en enero. La empresa de Elon Musk también afirmó a comienzos de año que mantiene una política de ‘tolerancia cero’ frente a la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado.