Las advertencias de seguridad de Anthropic pueden haber fracasado: el gobierno desactivó su IA más poderosa

El gobierno estadounidense el viernes ordenó a Anthropic desactivar inmediatamente el acceso a dos de sus modelos de IA más poderosos—Claude Fable 5 y Claude Mythos 5—citando preocupaciones de seguridad nacional. Anthropic anunció en X que ha cumplido, pero dejó claro que cree que el gobierno se equivocó en esto.

La directiva, que Anthropic dice que recibió el viernes a las 5:21 PM ET, obliga a la empresa a desactivar ambos modelos para todos los usuarios en todo el mundo—no solo para los nacionales extranjeros que nominalmente fue la orden de control de exportación del gobierno dirigida. El acceso a otros modelos de Anthropic no se ve afectado.

¿Por qué importa todo esto?

Mythos es el modelo de IA más capaz de Anthropic, uno que la empresa presentó en abril de 2026 y ha mantenido muy restringido desde entonces debido a lo que Anthropic describió como su capacidad excepcional para encontrar vulnerabilidades de seguridad en software. De acuerdo con Anthropic, Mythos identificó fallos en todos los sistemas operativos mayores y navegadores web que probó, así que en lugar de lanzarlo ampliamente, la empresa lanzó un programa controlado llamado Project Glasswing, compartiendo con aproximadamente 50 organizaciones vetadas, incluyendo Amazon, Apple, Google, Microsoft y CrowdStrike, para usar en trabajo de ciberseguridad defensiva.

Fable 5, lanzado hace solo tres días, fue la respuesta de Anthropic a la obvia presión comercial: una versión de Mythos equipada con protecciones que bloquean respuestas en áreas de alto riesgo como ciberseguridad y biología, haciéndola lo suficientemente segura para lanzamiento general, argumentó la empresa. Fue inmediatamente el modelo de IA más capaz disponible al público, según pruebas comparativas de Vals AI, una empresa que rastrean rendimiento de tecnología de IA.

Inquietudes sobre Jailbreak

La directiva del gobierno se presenta como una acción de control de exportación, restringiendo el acceso de nacionales extranjeros a los modelos. Pero en una extensa publicación de blog, Anthropic dice que su comprensión es que la preocupación subyacente es un reclamo de jailbreak de Fable 5. Hasta ahora, dice la empresa, el gobierno ha proporcionado solo evidencia verbal de un "potencial jailbreak estrecho, no universal"—uno que, como lo describe Anthropic, equivale a indicar al modelo que lea una base de código específica.

Fuente: TechCrunch