La prohibición de modelos de Anthropic del gobierno estadounidense nunca fue sobre un ataque de IA

La carta de ejecución del gobierno estadounidense a Anthropic, que efectivamente forzó a la empresa a sacar sus modelos de IA más recientes del aire solo antes del fin de semana, debería ser una llamada de alerta para cualquier empresa tecnológica estadounidense, no solo laboratorios de IA.

Para ponerte al día en el torrente de noticias: El viernes por la tarde, el Departamento de Comercio de EE.UU. envió a Anthropic una carta invocando una directiva de control de exportación oscura que prohibió a no estadounidenses, incluyendo empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación de seguridad nacional no especificada. Anthropic dijo que cree que la carta está relacionada con un desvío de las protecciones del modelo, pero no está segura porque la carta no proporciona detalles específicos. La carta no ha sido hecha pública.

En respuesta, Anthropic cerró tanto sus modelos principales a todos los clientes para asegurar que cumplía con la directiva. El resultado fue que el gobierno estadounidense forzó exitosamente a una empresa tecnológica a sacar sus modelos del aire con una acción rápida y unilateral que no parecía requerir aprobación de corte.

La intervención del viernes por la administración Trump muestra que la industria de IA no es inmune a la interferencia del gobierno. También es una advertencia para la industria tecnológica más amplia: cumple, o podemos cerrarte y tus productos.

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos grandes actores, diciendo que las "diferencias de personalidad" entre Anthropic y la administración Trump llevaron a la directiva de exportación, en lugar de un problema técnico con los productos de IA.

Nuevos detalles sobre el problema que surgieron durante el fin de semana ahora lanzan más dudas sobre el razonamiento ya inestable del gobierno.

Katie Moussouris, una veterana de ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un artículo escrito por investigadores de seguridad describiendo un supuesto desvío de protecciones en Fable 5. (Wall Street Journal reporta que los autores del artículo son investigadores de seguridad en Amazon). Moussouris dijo que Anthropic se comunicó para pedirle su opinión sobre el artículo.

La publicación de blog de Moussouris describió cómo los investigadores desencadenaron el desvío de protecciones, pero dijo que el desvío en sí "nunca debería usarse maliciosamente en la práctica".

Fuente: TechCrunch