En un artículo de opinión, el embajador de Francia en Argentina y un académico de la UCES sostienen que la IA requiere una gobernanza global similar a la establecida para la energía nuclear, con el objetivo de preservar la seguridad, la soberanía de los Estados y la dignidad humana.
El embajador de la República Francesa ante la República Argentina, Nadal, y el director del Instituto de Integración Regional y Gobernanza Global de la UCES, Degiorgis, publicaron un artículo en el que afirman que el desarrollo acelerado de la inteligencia artificial (IA) exige un marco común de gobernanza internacional. El texto menciona que el 24 de septiembre, durante una reunión del Consejo de Seguridad de las Naciones Unidas convocada por Francia, el ministro de Europa y Asuntos Exteriores, Jean-Noël Barrot, advirtió sobre los desafíos que plantea esta tecnología.
Los autores sostienen que, al igual que ocurrió con la energía atómica, la comunidad internacional debe establecer reglas compartidas para aprovechar los avances de la IA sin comprometer la seguridad, la soberanía de los Estados ni la dignidad humana. Señalan que las consecuencias de la IA trascienden las fronteras nacionales y plantean interrogantes que difícilmente puedan resolverse mediante iniciativas aisladas.
El artículo menciona episodios recientes en los que modelos experimentales de OpenAI, durante pruebas internas de ciberseguridad en julio de este año, eludieron mecanismos de aislamiento y comprometieron parte de la infraestructura de la compañía y de la plataforma Hugging Face. También se observaron comportamientos no previstos en evaluaciones de sistemas de Anthropic. Los autores aclaran que estos hechos no permiten afirmar que las máquinas hayan adquirido voluntad propia, pero evidencian dificultades para anticipar y controlar sistemas con autonomía creciente.
En el ámbito de la seguridad internacional, los firmantes advierten que la IA puede ser utilizada por actores estatales o no estatales para facilitar ciberataques, acceder a conocimientos sensibles o multiplicar operaciones de desinformación, y su incorporación a sistemas de armas capaces de identificar objetivos y recurrir a la fuerza letal sin intervención humana suficiente. Citan al presidente Emmanuel Macron, quien ante la Asamblea General de la ONU afirmó que el desarrollo de sistemas de armas autónomas exige avanzar hacia un marco internacional común porque la responsabilidad humana sobre el uso de la fuerza no puede diluirse detrás de la complejidad de un algoritmo.
No obstante, los autores también reconocen que la IA puede contribuir a mejorar la capacidad de análisis, la prevención de conflictos y la protección de la población civil, así como ampliar el acceso a la educación, mejorar diagnósticos médicos y facilitar la investigación científica. Sostienen que ninguno de estos beneficios está garantizado por el mero progreso técnico, sino que dependerá de cómo se desarrollen los sistemas, quiénes accedan a ellos y las condiciones institucionales que acompañen su utilización.
En el plano económico, el artículo señala que las inversiones extraordinarias que demanda el desarrollo de los modelos más avanzados, sumadas a la concentración empresarial y a las expectativas de rentabilidad futura, pueden generar desequilibrios financieros de consecuencias internacionales. En el ámbito social, indica que la transformación del mercado laboral podría profundizar desigualdades preexistentes y que una tecnología capaz de aumentar la productividad también puede concentrar sus beneficios en sectores reducidos. Asimismo, menciona el impacto ambiental de los centros de datos, que requieren cantidades crecientes de electricidad, agua e infraestructura, y pueden competir con otras necesidades de las comunidades donde se instalan.
Los autores dedican un apartado a la relación entre IA y poder estatal. Afirman que, así como durante el siglo XX el poder de las naciones estuvo asociado a capacidades industriales, energéticas, militares y financieras, hoy se añade la capacidad de desarrollar, controlar y utilizar infraestructuras digitales y sistemas avanzados de IA. El acceso al poder de cómputo, los semiconductores, los datos y el conocimiento especializado condiciona la competitividad económica y los márgenes de autonomía política. Plantean que los Estados que dependan de tecnologías desarrolladas, administradas y eventualmente restringidas por empresas o gobiernos extranjeros conservarán capacidades de decisión limitadas, y que la dependencia tecnológica deja de ser una cuestión comercial cuando una actualización o interrupción del servicio puede afectar funciones esenciales del Estado.
Frente a este panorama, proponen preservar capacidades de decisión, diversificar proveedores, formar recursos humanos, proteger datos sensibles y construir condiciones para utilizar estas tecnologías sin quedar sometidos a dependencias difíciles de revertir. Consideran que una gobernanza internacional que solo establezca obligaciones de seguridad para los desarrolladores resultaría incompleta si no se pregunta también quiénes participan en la elaboración de las reglas y en qué condiciones podrán acceder a los beneficios de la innovación.
El artículo menciona que Francia acompaña los esfuerzos presentados recientemente por Noruega y Finlandia para fortalecer un marco internacional de gobernanza. Entre las medidas que ese marco debería contemplar, enumera la evaluación independiente de los modelos antes de su puesta a disposición del público y durante todo su ciclo de vida, mayores exigencias de transparencia sobre capacidades, limitaciones e incidentes, mecanismos verificables de supervisión, seguridad informática y control de los sistemas, y la definición clara de la responsabilidad jurídica de las empresas y organizaciones involucradas.
Los autores sostienen que estas obligaciones deberían guardar proporción con los riesgos que se pretende prevenir y que no sería conveniente suponer que la seguridad depende necesariamente de mantener todos los modelos bajo el control exclusivo de un pequeño número de grandes empresas. Señalan que la apertura puede favorecer la investigación independiente y facilitar la detección de vulnerabilidades, aunque la difusión irrestricta de determinadas capacidades puede facilitar usos perjudiciales.
Como antecedente, el texto recuerda que en 1945 la humanidad ingresó en la era atómica y que la construcción de mecanismos internacionales de control fue lenta y atravesada por rivalidades geopolíticas, pero instituciones como el Organismo Internacional de Energía Atómica y acuerdos como el Tratado sobre la No Proliferación de las Armas Nucleares demostraron que es posible establecer ciertas reglas compartidas incluso en un escenario de competencia estratégica. Los autores aclaran que la IA presenta características diferentes porque su desarrollo está impulsado en gran medida por empresas privadas, sus aplicaciones se multiplican en ámbitos civiles y militares y su difusión es más difícil de contener, por lo que la comparación con la experiencia nuclear debe servir como orientación política y no como una receta institucional reproducible mecánicamente.
Finalmente, Francia propone profundizar el trabajo conjunto en el marco de las Naciones Unidas con la participación de los Estados, la comunidad científica, las empresas y la sociedad civil, a fin de establecer reglas que permitan aprovechar los avances de la IA sin comprometer la seguridad colectiva. Los autores concluyen que esas reglas deberán responder a la convicción de que el progreso tecnológico solo podrá considerarse verdaderamente compartido si, además de protegernos frente a sus riesgos, contribuye a preservar la capacidad de decisión de los Estados, la autonomía de las personas y su dignidad humana.