La prohibición de modelos de Anthropic del gobierno estadounidense nunca se trató de un jailbreak de inteligencia artificial

La carta de aplicación de la ley del gobierno estadounidense a Anthropic, que efectivamente obligó a la empresa a desconectar sus últimos modelos de inteligencia artificial poco antes del fin de semana, debería servir como una llamada de atención para cualquier empresa tecnológica estadounidense, laboratorio de inteligencia artificial u otra.

La acción regulatoria

Para ponerlo al tanto: El viernes por la tarde, el Departamento de Comercio de Estados Unidos envió a Anthropic una carta invocando una directiva de control de exportaciones oscura que prohibía a los no estadounidenses, incluidos los empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación de seguridad nacional no especificada. Anthropic dijo que cree que la carta está relacionada con un eludir de los sistemas de protección del modelo, pero no está seguro porque la carta no proporciona detalles específicos. La carta no ha sido hecha pública.

En respuesta, Anthropic desconectó ambos de sus principales modelos a todos los clientes para asegurar que cumpliera con la directiva. El resultado fue que el gobierno estadounidense obligó con éxito a una empresa tecnológica a desconectar sus modelos sin una acción unilateral rápida que no pareció requerir aprobación judicial.

Implicaciones para la industria tecnológica

La intervención del viernes por la administración Trump muestra que la industria de la inteligencia artificial no es inmune a la interferencia del gobierno. También es una advertencia a la industria tecnológica más amplia: cumple, o podemos apagarte y tus productos.

Nuevos detalles que cuestionan el razonamiento del gobierno

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos actores principales, diciendo que las "diferencias de personalidad" entre Anthropic y la administración Trump llevaron a la directiva de exportación, más bien que a un problema técnico con los productos de inteligencia artificial.

Los nuevos detalles sobre el problema que emergieron durante el fin de semana ahora generan más duda sobre el razonamiento ya inestable del gobierno.

Análisis de expertos en seguridad

Katie Moussouris, una veterana en ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un documento escrito por investigadores de seguridad describiendo un supuesto eludir del sistema de protección en Fable 5. (El Wall Street Journal reporta que los autores del documento son investigadores de seguridad en Amazon.) Moussouris dijo que Anthropic se puso en contacto para solicitarle su opinión sobre el documento.

La publicación de blog de Moussouris describió cómo los investigadores desencadenaron el eludir del sistema de protección, pero dijo que el eludir mismo "no debería ser nunca considerado un riesgo de seguridad nacional crítico" y señaló que problemas similares podrían encontrarse en otros modelos de inteligencia artificial principales.

Contexto de control político

El episodio refleja las tensiones más amplias entre la administración Trump y compañías tecnológicas de inteligencia artificial. Mientras que el gobierno argumenta que necesita el control regulatorio para salvaguardar la seguridad nacional, críticos argumentan que la acción fue desproporcionada y posiblemente políticamente motivada.

Fuente: TechCrunch