El CEO de Amazon presuntamente planteó preocupaciones sobre modelos de Anthropic antes del golpe del gobierno

El CEO de Amazon Andy Jassy puede haber sido la fuente de preocupaciones de seguridad que llevaron a Anthropic a cortar el acceso mundial a dos modelos el viernes.

El Wall Street Journal reporta que Jassy le dijo al Secretario del Tesoro Scott Bessent y a otros funcionarios del gobierno que investigadores de Amazon usaron Claude Fable 5 de Anthropic para obtener información que podría ser usada en ciberataques. El gobierno posteriormente impuso una prohibición de control de exportación en los modelos Fable 5 y Mythos 5.

Un portavoz de Amazon dijo en una declaración que aunque no es "inusual que los gobiernos busquen nuestro consejo sobre posibles riesgos de seguridad", la empresa no "comparte los detalles de esas discusiones".

El portavoz también señaló una actualización indicando que AWS ha sido afectada por el corte de modelos.

The Information y Reuters reportaron de manera similar que Amazon, un inversionista importante de Anthropic, había comunicado preocupaciones sobre la seguridad de los modelos de Anthropic.

David Sacks, anterior zar de IA de Trump que ahora co-preside el Consejo Presidencial de Asesores sobre Ciencia y Tecnología, ofreció su propia cuenta de las discusiones, afirmando que "un socio altamente confiable de ambos Anthropic y el gobierno estadounidense [...] se presentó con un jailbreak".

Sacks agregó, "La administración le pidió a Dario Amodei que arreglara el jailbreak o despliegue el modelo. Dario se negó".

Anthropic dijo en una publicación de blog que las capacidades aparentemente causando preocupación gubernamental ya están disponibles en otros modelos públicamente accesibles.

Fuente: TechCrunch