El gobierno de Estados Unidos bloquea modelos de Anthropic, nunca se trató de un jailbreak de IA
La carta de aplicación de la ley del gobierno estadounidense a Anthropic, que efectivamente obligó a la empresa a desconectar sus últimos modelos de IA justo antes del fin de semana, debería ser una llamada de atención para cualquier empresa tecnológica estadounidense.
La carta de aplicación de la ley del gobierno estadounidense a Anthropic, que efectivamente obligó a la empresa a desconectar sus últimos modelos de IA justo antes del fin de semana, debería ser una llamada de atención para cualquier empresa tecnológica estadounidense: ya sea un laboratorio de IA u otra.
Detalles de la orden de bloqueo
Para ponerte al día: El viernes por la tarde, el Departamento de Comercio de Estados Unidos envió a Anthropic una carta invocando una directiva de control de exportaciones oscura que prohibía a los no estadounidenses, incluyendo a los empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación de seguridad nacional no especificada. Anthropic dijo que cree que la carta está relacionada con un bypass de las barreras de seguridad del modelo, pero no está seguro porque la carta no proporciona detalles específicos. La carta no ha sido hecha pública.
En respuesta, Anthropic apagó ambos de sus modelos principales a todos los clientes para asegurar que cumplía con la directiva. El resultado fue que el gobierno estadounidense obligó exitosamente a una empresa de tecnología a desconectar sus modelos con una acción rápida y unilateral que no parecía requerir aprobación del tribunal.
Contexto político y administrativo
La intervención del viernes por parte de la administración Trump muestra que la industria de IA no es inmune a la interferencia del gobierno. También es una advertencia para la industria tecnológica más amplia: cumplan, o podemos desactivarlos y sus productos.
Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos actores principales, diciendo que las "diferencias de personalidad" entre Anthropic y la administración Trump llevaron a la directiva de exportación, en lugar de un problema técnico con los productos de IA.
Dudas sobre el razonamiento del gobierno
Nuevos detalles sobre el problema que surgieron durante el fin de semana ahora ponen en duda aún más el razonamiento ya débil del gobierno.
Katie Moussouris, una veterana de ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un documento escrito por investigadores de seguridad describiendo un supuesto bypass de barreras en Fable 5. (The Wall Street Journal reporta que los autores del documento son investigadores de seguridad en Amazon). Moussouris dijo que Anthropic se contactó para pedirle su opinión sobre el documento.
Análisis de expertos
La publicación de blog de Moussouris describió cómo los investigadores desencadenaron el bypass de barreras, pero dijo que el bypass en sí "nunca debería causar una preocupación de seguridad nacional". También señaló que Anthropic está tratando de trabajar de forma cooperativa con el gobierno, mientras que el gobierno parece estar tomando medidas enérgicas y poco transparentes que establecen un precedente peligroso para toda la industria de IA.
Implicaciones más amplias
El incidente subraya las tensiones emergentes entre los reguladores gubernamentales y la industria de la IA, y cómo los gobiernos pueden usar herramientas regulatorias existentes de formas nuevas y potencialmente problemáticas. Para cualquier empresa de tecnología estadounidense que trabaje en IA, es un recordatorio de que el panorama regulatorio está evolucionando rápidamente y que la cumplimiento no es suficiente: la alineación política también podría importar.
Fuente: TechCrunch