Google DeepMind lanza un instituto para ampliar el debate sobre la AGI

Investigadores de Google y Google DeepMind lanzaron el miércoles el DeepMind Institute para impulsar la conversación en torno a la inteligencia artificial general (AGI). El instituto lista al cofundador de DeepMind, Shane Legg, al ejecutivo de Google James Manyika y al presidente de Google DeepMind, Demis Hassabis, como directores, con Legg como editor general.

El nuevo instituto busca visibilizar las distintas visiones entre Google, Google DeepMind y la comunidad de investigación global en torno a la AGI. "No siempre estarán de acuerdo, y probablemente cambiarán de opinión, a medida que surjan más datos e información en esta frontera que avanza rápido", decía el anuncio.

Ensayos inaugurales

La colección inaugural de cuatro ensayos cubre una variedad de temas: políticas económicas para gestionar una potencial disrupción de la AGI, preservar el razonamiento legible por humanos de los modelos, principios para el florecimiento humano y un marco para evaluar los modelos de IA de frontera.

Uno de los ensayos, escrito por los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, sostiene que la ventana cada vez más pequeña de transparencia de la IA —la capacidad de ver y verificar el razonamiento paso a paso de un modelo— no es inevitable. A medida que las nuevas arquitecturas hacen más difícil monitorear los modelos más potentes, los autores dicen que los desarrolladores y reguladores deberían enfrentar directamente las compensaciones de seguridad. Eso podría significar limitar la "profundidad serial opaca" —la cantidad de cómputo secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible— o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo igual de monitoreables.

En otro ensayo, Hassabis propone un organismo de estándares de IA de frontera liderado por EE.UU. para evaluar los modelos de IA más avanzados. Según su marco, los desarrolladores inicialmente someterían sus modelos voluntariamente a revisión hasta 30 días antes del lanzamiento. Una vez que el sistema de evaluación haya demostrado ser efectivo, pasar sus pruebas podría convertirse en un requisito para desplegar modelos de frontera en Estados Unidos.

El organismo primero diseñaría las evaluaciones en consulta con las empresas de IA, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas —lo que el ensayo llama pruebas "reservadas"—.

Fuente: TechCrunch