A medida que crece la preocupación por seguridad en IA, tres pioneros hacen el caso para mantener la IA abierta

A medida que proyectos como Pacing the Frontier buscan en los laboratorios principales una forma de mantener la investigación de IA segura, los modelos de código abierto se han convertido en un punto débil para la industria. Con distribución gratuita y poco control sobre cómo se utilizan, los modelos de pesos abiertos no se controlan fácilmente, llevando algunos laboratorios a tratarlos como directamente aterradores.

Tres pioneros en favor de la apertura

Pero en la conferencia Ai4 en Las Vegas la semana pasada, tres de los investigadores de IA más respetados del mundo: el ganador del Premio Nobel Geoffrey Hinton, el CEO de World Labs y cofundador Fei-Fei Li, y el cofundador de Coursera Andrew Ng, hablaron sobre el tema. Y aunque no estuvieron de acuerdo en tácticas particulares, los tres hicieron un caso poderoso a favor de mantener la IA abierta.

Preocupación sobre concentración de poder

Para los tres oradores, la preocupación principal era permitir que un puñado de grandes empresas de IA controlen el ritmo del progreso. Cuando un pequeño número de empresas controla el acceso a una tecnología, como Apple y Google lo hacen con sistemas operativos móviles, la innovación puede ralentizarse y las empresas que controlan las plataformas pueden influir en lo que se construye sobre ellas.

Andrew Ng dijo que estaba preocupado por una dinámica similar que emerge en la IA. "No quiero que haya guardianes," dijo Ng. "Eso limita cómo todos podemos acceder a la IA."

Incentivos corporativos y riesgo de control de mercado

Las empresas tienen un incentivo para proteger sus ventajas competitivas, incluyendo influyendo en las reglas que gobiernan la industria. Esto podría crear una dinámica donde solo las empresas más grandes y mejor capitalizadas tengan los recursos para construir los sistemas de IA más avanzados.

La solución de Ng era mantener múltiples proveedores, con modelos y empresas compitiendo en lugar de permitir que un puñado de actores dominen el campo. "Si tuviera que intentar dar una prescripción, sería promover la apertura," dijo Ng, "porque la IA es tecnología asombrosa y quiero que esté en las manos de todos."

Debate sobre open-source vs open-weights

Pero no todos estuvieron de acuerdo en que los modelos de pesos abiertos ayudarían a preservar ese estado de cosas. Hinton, en particular, hizo una distinción entre software de código abierto, que hace el código subyacente disponible para inspección y modificación, y modelos de pesos abiertos, que publican los parámetros de un modelo de IA entrenado al público.

"El código abierto es genial. Muestras a la gente el código, y muchas personas miran las líneas de código y dicen, 'Oh, hay un bug.' Los pesos abiertos significa que entrenas un modelo grande y lo liberas al público con poco control sobre cómo se usa," explicó Hinton.

El camino a seguir

A pesar de sus diferentes opiniones sobre cómo lograr la apertura en la IA, los tres pioneros coincidieron en que mantener múltiples actores compitiendo en el espacio de la IA es crítico para la innovación continua y para prevenir que el poder se concentre demasiado en pocas manos.

Fuente: TechCrunch