En la cumbre del G7, los líderes mundiales solicitaron a las principales desarrolladoras de inteligencia artificial fortalecer las medidas de seguridad para niños y adolescentes frente a contenidos inapropiados y deepfakes.
En la cumbre del G7 que concluyó este miércoles, los principales líderes del mundo mantuvieron una reunión con los dueños de las desarrolladoras más importantes de inteligencia artificial (IA). En el encuentro, los países solicitaron “experiencias seguras, protegidas y adecuadas a cada edad”, en un señalamiento al peligro al que están expuestos los menores con el perfeccionamiento de la IA.
Los líderes de las principales potencias mantuvieron una reunión con los máximos referentes de OpenAI, Google, Meta y otras compañías del sector. Advirtieron sobre el impacto de los contenidos inapropiados, los deepfakes sexuales y reclamaron nuevas herramientas de control y seguridad para niños y adolescentes.
“Hacemos un llamado a los proveedores de servicios digitales para que desarrollen y apliquen tecnologías y sistemas que garanticen experiencias seguras, protegidas y adecuadas a cada edad”, señalaron los líderes del G7 en una declaración conjunta, a la que también se sumaron Brasil, Corea del Sur, Egipto, la India y Kenia. “Estos pueden verse expuestos a interacciones y contenidos ilegales o inadecuados para su edad que perjudican su salud mental y su bienestar”, advirtieron los líderes en el documento.
Entre los invitados estuvieron Sam Altman, de OpenAI; Dario Amodei, de Anthropic; Arthur Mensch, de Mistral AI; Demis Hassabis, de Google; Alexandr Wang, de Meta; Aidan Gomez, de Cohere; Marc Benioff, de Salesforce, y representantes de otras compañías del ecosistema tecnológico.
En esa línea, la declaración insta a las compañías tecnológicas a profundizar los mecanismos de detección y eliminación de deepfakes de contenido sexual, una problemática que encendió las alarmas en gobiernos y organismos dedicados a la protección de menores. La preocupación crece a medida que las herramientas de inteligencia artificial generativa facilitan la creación de imágenes falsas o material de carácter abusivo. Además, el documento reclama la incorporación de nuevos estándares de seguridad, entre ellos sistemas de control parental y herramientas de verificación de edad.
El consenso en torno a la protección de niños y adolescentes contrastó con las diferencias que aún persisten dentro del G7 respecto a la regulación del sector tecnológico. Mientras Europa impulsa esquemas de supervisión más rigurosos, Estados Unidos mantiene una postura más cautelosa frente a cualquier normativa que pueda afectar la innovación o la competitividad de sus empresas digitales.
Uno de los casos que atravesó las conversaciones fue el de Anthropic, que suspendió el acceso a la versión más avanzada de uno de sus modelos tras una orden de Washington basada en motivos de seguridad nacional. El episodio volvió a exponer una discusión cada vez más presente entre las potencias occidentales: cómo equilibrar la cooperación tecnológica entre democracias sin correr el riesgo de que herramientas de inteligencia artificial de última generación terminen bajo control de gobiernos autoritarios o actores considerados hostiles.