CEO de Amazon Andy Jassy alertó al gobierno sobre vulnerabilidades en modelos de Anthropic

El CEO de Amazon Andy Jassy presuntamente fue la fuente de inquietudes de seguridad que llevaron a Anthropic a cortarle acceso mundial a dos modelos el viernes. El Wall Street Journal reporta que Jassy le dijo al Secretario del Tesoro Scott Bessent y otros funcionarios gubernamentales que investigadores de Amazon utilizaron el Claude Fable 5 de Anthropic para obtener información que podría ser utilizada en ciberataques. El gobierno posteriormente impuso una prohibición de control de exportación en los modelos Fable 5 y Mythos 5.

Un portavoz de Amazon dijo en una declaración que si bien no es "poco común que los gobiernos busquen nuestro consejo sobre posibles riesgos de seguridad", la compañía no "comparte los detalles de esas discusiones". El portavoz también señaló una actualización indicando que AWS ha sido afectado por el corte de modelo.

The Information y Reuters reportaron similarmente que Amazon (un inversor importante de Anthropic) había comunicado preocupaciones sobre la seguridad de los modelos de Anthropic.

Perspectiva del gobierno y respuesta de Anthropic

David Sacks, exczar de IA de Trump que ahora copreside el Consejo Presidencial de Asesores sobre Ciencia y Tecnología, ofreció su propia versión de las discusiones, afirmando que "un socio altamente creíble de confianza mutua de Anthropic y el USG llegó con un jailbreak". Sacks agregó: "La Administración le pidió a Dario Amodei que arregle el jailbreak o deshabilite el modelo. Dario se negó".

Anthropic respondió diciendo en una publicación de blog que las capacidades aparentemente causando preocupación gubernamental ya están disponibles en otros modelos públicamente accesibles. Esta respuesta sugiere que la compañía cree que la medida de restricción fue innecesaria o desproporcionada.

Implicaciones para la industria de IA

El incidente destaca las tensiones crecientes entre las empresas de IA y los reguladores gubernamentales sobre seguridad, acceso a modelos y control de tecnología. Plantea preguntas importantes sobre cómo se equilibra la seguridad nacional con la libertad de investigación y el acceso empresarial a herramientas de IA avanzadas.

Esta situación refleja un panorama más amplio de mayor escrutinio regulatorio de los modelos de IA de frontera y las capacidades que poseen, particularmente en contextos relacionados con seguridad cibernética y potencial de abuso.

Fuente: TechCrunch