Mientras crecen las preocupaciones de seguridad en IA, tres pioneros hacen el caso para mantenerla abierta

Mientras que proyectos como "Pacing the Frontier" buscan a laboratorios principales como una forma de mantener la investigación de IA segura, los modelos de código abierto se han convertido en un punto delicado para la industria. Con distribución gratuita y poco control sobre cómo se usan, los modelos de peso abierto no son fácilmente controlables, llevando a algunos laboratorios a tratarlos como algo completamente aterrador.

Posición de tres grandes del AI

Pero en la conferencia Ai4 en Las Vegas la semana pasada, tres de los investigadores de IA más respetados del mundo – el ganador del Premio Nobel Geoffrey Hinton, la CEO de World Labs y cofundadora Fei-Fei Li, y el cofundador de Coursera Andrew Ng – hablaron sobre el asunto. Y aunque discreparon en tácticas particulares, los tres hicieron un poderoso argumento a favor de mantener la IA abierta.

Preocupación central: control corporativo

Para los tres oradores, la preocupación central era permitir que un puñado de grandes empresas de IA controlen el ritmo del progreso. Cuando pocas empresas controlan el acceso a una tecnología, como Apple y Google lo hacen con sistemas operativos móviles, la innovación puede ralentizarse y las empresas que controlan las plataformas pueden influir en lo que se construye en ellas.

Perspectiva de Andrew Ng

Andrew Ng dijo que le preocupaba una dinámica similar emergiendo en IA. "No quiero que haya guardianes," dijo Ng. "Eso limita cómo todos podemos acceder a IA."

Las empresas tienen un incentivo para proteger sus ventajas competitivas, incluyendo influenciando las reglas que rigen la industria. Eso podría crear una dinámica donde solo las empresas más grandes y mejor capitalizadas tengan los recursos para construir los sistemas de IA más avanzados.

Solución propuesta por Ng

La solución de Ng era mantener múltiples proveedores, con modelos y empresas compitiendo en lugar de permitir que un puñado de actores dominen el campo. "Si tuviera que intentar dar una prescripción, sería promover apertura," dijo Ng, "porque IA es tecnología asombrosa y quiero que esté en las manos de todos."

Perspectiva diferente de Hinton

Pero no todos estaban de acuerdo en que los modelos de peso abierto ayudarían a preservar ese estado de juego. Hinton, en particular, hizo una distinción entre software de código abierto, que hace disponible el código subyacente para inspección y modificación, y modelos de peso abierto, que publican los parámetros de un modelo de IA entrenado al público.

"El código abierto es grandioso. Muestras a la gente el código, y mucha gente mira las líneas de código y dice, 'Oh, hay un error.' Los pesos abiertos significa que entrenas un modelo grande..."

Debate continuo sobre la gobernanza

El debate entre estos tres pioneros refleja tensiones más amplias sobre cómo la industria debe abordar el equilibrio entre la innovación abierta y la seguridad. A medida que la IA se vuelve más poderosa, las preguntas sobre quién controla el acceso y cómo garantizamos que se desarrolle de manera segura se vuelven cada vez más urgentes.

Implicaciones futuras

Los argumentos presentados por Hinton, Li y Ng sugieren que el futuro de la IA probablemente será determinado no solo por innovaciones técnicas sino también por decisiones sobre la gobernanza y el acceso. Mantener la IA abierta mientras se abordan las preocupaciones de seguridad será un desafío continuo para la industria.

Fuente: TechCrunch