CEO de Anthropic presenta plan para desacelerar el desarrollo de IA

Se han visto advertencias cada vez más graves de investigadores de IA sobre los peligros de la inteligencia artificial, e incluso comentarios del CEO de OpenAI Sam Altman de que podría ser hora de "acelerar" el desarrollo de IA. Pero, ¿qué sería realmente eso?

En un nuevo artículo de blog, el CEO de Anthropic, Dario Amodei, no solo se hizo eco del llamado a "acelerar la frontera", sino que también esbozó tres amplias estrategias para hacerlo. Y dijo que Anthropic se está "comprometiendo unilateralmente" con una de ellas, con Altman chiming in para decir que OpenAI seguirá el ejemplo.

El contexto de seguridad de IA

El debate sobre seguridad y alineamiento de IA se intensificó esta semana después de que el investigador Jacob Coxon escribiera que está renunciando a Anthropic debido a preocupaciones de que las principales empresas de IA estén "jugando con nuestras vidas" mientras que las personas que construyen la tecnología "creen sinceramente que podría matarnos a todos antes del final de la década", una afirmación repetida por otros en Anthropic.

El artículo de Amodei no mencionó explícitamente la renuncia de Coxon o sus preocupaciones, pero el CEO escribió que dos cosas lo convencieron de que era hora de tomar un enfoque más cauteloso en el desarrollo de IA: el hackeo de OpenAI-HuggingFace, y el hecho de que "la IA ha estado avanzando drásticamente más rápido" en los últimos meses, particularmente con su "creciente capacidad para construir la próxima generación de IA".

Estrategias propuestas

"Debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de IA", escribió Amodei. "El progreso aún parecerá rápido, y debemos hacer un uso sabio del tiempo que ganamos."

Otros ejecutivos de IA parecen haber reaccionado positivamente al artículo de Amodei, con Altman escribiendo: "Estoy de acuerdo con Dario en que necesitamos acelerar la frontera. Este ha sido un tema principal de discusiones que hemos tenido en OpenAI en las últimas semanas." Y el CEO de SpaceX, Elon Musk, publicó: "Dario tiene razón."

El primer paso propuesto por Amodei implicaría "evaluadores incrustados" de organizaciones de terceros como METR, evaluadores que puedan verificar que las empresas de IA realmente están siguiendo sus compromisos de ritmo y seguridad, y que también puedan garantizar que los incidentes de seguridad se reporten correctamente.

Fuente: TechCrunch