La prohibición de modelos de Anthropic del gobierno estadounidense nunca fue sobre un jailbreak de IA

La carta de cumplimiento del gobierno estadounidense a Anthropic, que efectivamente obligó a la empresa a retirar sus últimos modelos de IA en línea justo antes del fin de semana, debería ser una llamada de atención para cualquier empresa tecnológica estadounidense, laboratorio de IA o de otra manera.

Para ponerte al día en el flujo de noticias: el viernes por la tarde, el Departamento de Comercio de Estados Unidos envió a Anthropic una carta invocando una obscura directiva de control de exportaciones que prohibió a los no estadounidenses, incluyendo a empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación de seguridad nacional no especificada. Anthropic dijo que cree que la carta está relacionada con un bypass de los guardrails del modelo, pero no está segura porque la carta no proporciona detalles específicos. La carta no ha sido hecha pública.

Reacción de Anthropic

En respuesta, Anthropic apagó ambos de sus modelos principales para todos los clientes para asegurar que cumplía con la directiva. El resultado fue que el gobierno estadounidense logró exitosamente obligar a una empresa tecnológica a retirar sus modelos en línea con una acción rápida y unilateral que no parecía requerir aprobación judicial.

Advertencia para la industria tecnológica

La intervención del viernes por parte de la administración Trump demuestra que la industria de la IA no es inmune a la interferencia del gobierno. También es una advertencia para la industria tecnológica más amplia: cumplan, o podemos apagarlos y sus productos.

Detalles que cuestionan el razonamiento del gobierno

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos grandes protagonistas, diciendo que las "diferencias de personalidad" entre Anthropic y la administración Trump llevaron a la directiva de exportación, más que un problema técnico con los productos de IA.

Nuevos detalles sobre el problema que surgieron durante el fin de semana ahora cierren aún más duda sobre el razonamiento ya tambaleante del gobierno.

Análisis de experto en seguridad cibernética

Katie Moussouris, una veterana de ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un documento escrito por investigadores de seguridad describiendo un supuesto bypass de guardrails en Fable 5. (Wall Street Journal reporta que los autores del documento son investigadores de seguridad en Amazon.) Moussouris dijo que Anthropic se comunicó con ella para pedir su opinión sobre el documento.

La publicación de blog de Moussouris describió cómo los investigadores desencadenaron el bypass de guardrails, pero dijo que el bypass en sí "nunca debería haber resultado en una prohibición de acceso completa a los modelos". Ella argumentó que el incidente fue sobreevaluado como una amenaza de seguridad nacional.

Implicaciones más amplias

El incidente resalta las preocupaciones sobre cómo los gobiernos pueden usar regulaciones de control de exportaciones para ejercer presión sobre empresas de IA, potencialmente sofocando la innovación y la competencia en la industria.

Fuente: TechCrunch