A medida que crece la preocupación por la seguridad de la IA, tres pioneros abogan por mantenerla abierta

Conforme proyectos como Pacing the Frontier buscan que los laboratorios principales ayuden a mantener la investigación de IA segura, los modelos de código abierto se han convertido en un punto delicado para la industria. Con distribución gratuita y poco control sobre cómo se utilizan, los modelos de peso abierto no se pueden controlar fácilmente, lo que lleva a algunos laboratorios a tratarlos como directamente aterradores.

Pero en la conferencia Ai4 en Las Vegas la semana pasada, tres de los investigadores de IA más respetados del mundo —el ganador del Premio Nobel Geoffrey Hinton, CEO y cofundador de World Labs Fei-Fei Li, y cofundador de Coursera Andrew Ng— expresaron su opinión sobre el tema. Y aunque discrepaban en tácticas particulares, los tres hicieron un poderoso caso para mantener la IA abierta.

Preocupaciones sobre control centralizado

Para los tres oradores, la preocupación central era permitir que un puñado de grandes empresas de IA controlen el ritmo del progreso. Cuando pocas empresas controlan el acceso a una tecnología, como Apple y Google lo hacen con los sistemas operativos móviles, la innovación puede ralentizarse y las empresas que controlan las plataformas pueden influir en lo que se construye en ellas.

Andrew Ng dijo que estaba preocupado por una dinámica similar que emerge en la IA. «No quiero que haya guardianes de acceso. Eso limita cómo todos nosotros podemos acceder a la IA».

Las empresas tienen un incentivo para proteger sus ventajas competitivas, incluyendo influir en las reglas que rigen la industria. Esto podría crear una dinámica donde solo las empresas más grandes y mejor capitalizadas tengan los recursos para construir los sistemas de IA más avanzados.

La solución de Ng fue mantener múltiples proveedores, con modelos y empresas compitiendo en lugar de permitir que un puñado de actores dominen el campo. «Si tuviera que dar una prescripción, sería promover la apertura», dijo Ng, «porque la IA es una tecnología asombrosa y quiero que esté en las manos de todos».

Debates sobre modelos de código abierto

Pero no todos estuvieron de acuerdo en que los modelos de peso abierto ayudarían a preservar ese estado de cosas. Hinton, en particular, hizo una distinción entre software de código abierto, que hace que el código subyacente esté disponible para inspección y modificación, y modelos de peso abierto, que liberan los parámetros de un modelo de IA entrenado al público.

«El código abierto es excelente. Les muestras el código a las personas, y muchas personas miran las líneas de código y dicen, «Oh, hay un error». Los pesos abiertos significan que entrenas un modelo grande y lo liberas al público».

Fuente: TechCrunch