CEO de Amazon reportó preocupaciones de seguridad sobre modelos de Anthropic al gobierno

El CEO de Amazon Andy Jassy puede haber sido la fuente de preocupaciones de seguridad que llevaron a Anthropic a cortar el acceso mundial a dos modelos el viernes pasado.

Reporte de vulnerabilidades a autoridades

El Wall Street Journal informa que Jassy le dijo al Secretario del Tesoro Scott Bessent y a otros funcionarios del gobierno que investigadores de Amazon utilizaron Claude Fable 5 de Anthropic para obtener información que podría ser utilizada en ciberataques. El gobierno posteriormente impuso una prohibición de controles de exportación en los modelos Fable 5 y Mythos 5.

Posición de Amazon y AWS

Un portavoz de Amazon dijo en una declaración que si bien no es "poco común que los gobiernos busquen nuestro consejo sobre posibles riesgos de seguridad", la empresa no "comparte los detalles de esas discusiones". El portavoz también señaló una actualización indicando que AWS ha sido afectado por el corte de modelo.

Reportes adicionales y perspectivas oficiales

The Information y Reuters informaron similarmente que Amazon, un inversor importante de Anthropic, había comunicado preocupaciones sobre la seguridad de los modelos de Anthropic.

David Sacks, antiguo zar de IA de Trump que ahora copreside el Consejo Presidencial de Asesores sobre Ciencia y Tecnología, ofreció su propia versión de las discusiones, afirmando que "un socio altamente confiable de tanto Anthropic como del Gobierno estadounidense [...] vino a presentar un jailbreak".

Sacks agregó: "La Administración le pidió a Dario Amodei que arreglara el jailbreak o pusiera fuera de línea el modelo. Dario se negó".

Respuesta de Anthropic

Anthropic dijo en una entrada de blog que las capacidades que aparentemente estaban causando preocupación al gobierno ya están disponibles en otros modelos públicamente accesibles. La empresa ha disputado la caracterización del gobierno sobre el asunto y mantiene que la acción no debería haber sido tomada.

Fuente: TechCrunch