CEO de Amazon informó preocupaciones sobre modelos de Anthropic antes del veto del gobierno

Andy Jassy, CEO de Amazon, puede haber sido la fuente de preocupaciones de seguridad que llevaron a Anthropic a cortar acceso mundial a dos modelos el viernes pasado.

El Wall Street Journal reporta que Jassy le contó al Secretario del Tesoro Scott Bessent y otros funcionarios del gobierno que investigadores de Amazon usaron Claude Fable 5 de Anthropic para obtener información que podría ser usada en ciberataques. El gobierno posteriormente impuso una prohibición de control de exportaciones en los modelos Fable 5 y Mythos 5.

Respuesta de Amazon y el gobierno

Un portavoz de Amazon dijo en una declaración que aunque no es "poco común que los gobiernos busquen nuestro consejo sobre posibles riesgos de seguridad", la compañía no "comparte los detalles de esas discusiones".

El portavoz también señaló una actualización indicando que AWS ha sido afectado por el corte del modelo.

The Information y Reuters reportaron similarmente que Amazon, un importante inversor de Anthropic, había comunicado preocupaciones sobre la seguridad de los modelos de Anthropic.

Perspectiva del gobierno sobre el incidente

David Sacks, exczar de IA de Trump que ahora copreside el Consejo del Presidente de Asesores sobre Ciencia y Tecnología, ofreció su propia versión de las discusiones, reclamando que "un socio altamente creíble de confianza tanto de Anthropic como del gobierno [...] vino con un jailbreak".

Sacks añadió, "La Administración le pidió a [CEO de Anthropic Dario Amodei] que arreglara el jailbreak o desimplementara el modelo. Dario rehusó".

Anthropic dijo en una publicación de blog que las capacidades aparentemente causando preocupación del gobierno ya están disponibles en otros modelos públicamente accesibles.

El incidente subraya las tensiones crecientes entre compañías de IA, agencias gubernamentales e inversores corporativos sobre la seguridad y el control de tecnologías de IA cada vez más poderosas.

Fuente: TechCrunch