CEO de Amazon reportó preocupaciones sobre modelos de Anthropic antes de la restricción gubernamental

Andy Jassy, CEO de Amazon, pudo haber sido la fuente de preocupaciones de seguridad que llevaron a Anthropic a cortar acceso a nivel mundial a dos modelos el viernes.

El Wall Street Journal reporta que Jassy le informó al Secretario del Tesoro Scott Bessent y otros funcionarios del gobierno que investigadores de Amazon utilizaron Claude Fable 5 de Anthropic para obtener información que podría ser utilizada en ciberataques. El gobierno posteriormente impuso un embargo de controles de exportación en los modelos Fable 5 y Mythos 5.

Un portavoz de Amazon dijo en una declaración que aunque no es "inusual que los gobiernos busquen nuestro consejo sobre posibles riesgos de seguridad," la compañía no "comparte los detalles de esas discusiones."

El portavoz también señaló una actualización indicando que AWS ha sido afectado por el corte de modelos.

The Information y Reuters reportaron de manera similar que Amazon, un inversor importante de Anthropic, había comunicado preocupaciones sobre la seguridad de los modelos de Anthropic.

David Sacks, antiguo zar de IA de Trump que ahora co-dirige el Consejo Presidencial de Asesores en Ciencia y Tecnología, ofreció su propia versión de las discusiones, afirmando que "un socio altamente creíble de ambos Anthropic y el gobierno estadounidense [...] se presentó con un jailbreak."

Sacks añadió, "La Administración le pidió [al CEO de Anthropic Dario Amodei] que reparara el jailbreak o retirara el modelo. Dario rechazó."

Anthropic dijo en una entrada de blog que las capacidades aparentemente causando preocupación al gobierno ya están disponibles en otros modelos públicamente accesibles.

Fuente: TechCrunch