El CEO de Anthropic, Dario Amodei, afirmó que su compañía no defiende la prohibición de los modelos de inteligencia artificial abiertos, pero propuso tres medidas de protección frente a actores extranjeros como China.
El CEO de Anthropic, Dario Amodei, aclaró que la posición de su compañía no defiende la prohibición de los modelos de Inteligencia Artificial (IA) abiertos, pero consideró que frente a actores extranjeros, como China, se necesitan medidas de protección que garanticen que no se usen para obtener una capacidad tecnológica y militar superior a la estadounidense.
El pasado lunes, Amodei compartió su opinión sobre una discusión generada en los últimos días acerca de los modelos de IA abiertos, especialmente aquellos provenientes de China, cuyo uso algunos funcionarios de Estados Unidos están considerando prohibir en territorio estadounidense.
Ante esta posibilidad, compañías tecnológicas como Nvidia, Microsoft, Perplexity y Mistral firmaron una carta en apoyo a los modelos de IA abiertos y su papel para impulsar el liderazgo tecnológico de Estados Unidos. Algunas figuras criticaron que el laboratorio de IA dirigido por Amodei desee la prohibición de dichos modelos como estrategia para proteger su modelo de negocio.
«Anthropic nunca ha defendido la prohibición de los modelos abiertos», afirmó Amodei, posicionándose ante modelos que, mientras no tengan capacidades peligrosas, consideró un bien público. Explicó que «no cuestan apenas nada aparte de la computación necesaria para hacerlos funcionar, dando valor a negocios, desarrolladores e investigadores».
«Mi principal preocupación es que gobiernos autoritarios, no únicamente el Partido Comunista Chino (PCCh), aunque el PCCh es claramente la amenaza más capaz, construyan modelos de IA que sean más potentes que los diseñados por Estados Unidos, y los usen para lograr una superioridad militar permanente o perpetrar una represión increíblemente profunda de su propio pueblo», declaró Amodei, en línea con el argumento del gobierno estadounidense sobre el desafío que suponen los regímenes autoritarios en el 2026 Annual Threat Assessment.
La segunda preocupación del CEO del laboratorio de IA radica en los riesgos de desalineación de la IA (cuando un modelo es muy potente pero no hace lo que se quiere que haga, conllevando comportamientos impredecibles o dañinos) y su potencial mal uso en ciberataques o ataques biológicos.
«Los modelos de pesos abiertos presentan potencialmente un riesgo mayor que los modelos cerrados, porque es muy difícil aplicarles las salvaguardas necesarias o supervisar su uso, y una vez que se liberan no pueden retirarse», expuso Amodei. Ante la posibilidad de que se prohíba su uso en EE. UU., señaló que esto realmente no frena a los actores maliciosos y solo blindaría a las grandes compañías del país frente a la competencia.
Para mitigar los efectos del uso de modelos abiertos de IA, Anthropic sugirió tres medidas. La primera es no vender chips potentes ni equipos de fabricación de chips a China, al igual que combatir el contrabando para introducir esa tecnología en el país asiático.
Amodei apuntó también la necesidad de combatir las operaciones de destilación industrial porque es «un proceso mucho más eficiente en cuanto a capacidad de cómputo que entrenar modelos desde cero», lo que, a su juicio, permite a China «construir modelos mucho mejores de lo que su número de chips normalmente permitiría».
La tercera medida se basa en que todos los modelos capaces, tanto abiertos como cerrados, pasen por pruebas de seguridad obligatorias para «detectar riesgos cibernéticos, biológicos y de alineación antes de su lanzamiento». Amodei indicó que «para ser eficaces, las pruebas tendrían que ser globales, lo que significa que incluso el PCCh tendría que estar de acuerdo».
Esta postura general de Anthropic no fue bien recibida por las comunidades de modelos de IA abiertos y de la propia Claude en Reddit, donde los usuarios sostuvieron que apelar a la «seguridad nacional» es una cortina de humo para imponer reglas que solo los grandes laboratorios de IA pueden asumir y que condenan a la escena del código abierto a una muerte lenta.