Garry Tan de Y Combinator quiere que laboratorios de IA abiertos estadounidenses también "destilen" modelos
El CEO de Y Combinator, Garry Tan, argumenta que los laboratorios de IA abiertos estadounidenses deberían tener la libertad de destilar modelos de frontera, sin intervención regulatoria, como contrapeso a las prácticas chinas.
Cuando se trata de laboratorios de IA chinos que utilizan técnicas de destilación para extraer conocimiento de creadores de modelos de frontera, el CEO de Y Combinator, Garry Tan, espera que los reguladores se mantengan al margen. De hecho, cree que los laboratorios de IA estadounidenses quizás deberían jugar el mismo juego.
"No haría nada", le dijo a CNBC en una entrevista a principios de esta semana. "Podríamos argumentar que debería haber un régimen estadounidense de destilación".
Elaboró a TechCrunch que esto significa que quiere que laboratorios de código abierto más pequeños en Estados Unidos utilicen el mismo tipo de técnicas de entrenamiento en laboratorios de IA de frontera estadounidenses, dando al país un conjunto más robusto de opciones de código abierto que no sean chinas.
Qué es la Destilación
La destilación es cuando un creador de modelos interpela extensamente otro modelo para aprender cómo funciona y razona. Es comúnmente, y legítimamente, utilizada por laboratorios de IA para ayudar a entrenar nuevos modelos.
Anthropic esta semana lanzó su segundo informe alegando que laboratorios chinos están comprometidos en "ataques de destilación ilícita", ocultando sus identidades para destilar sin permiso y confiando en fraude y credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había llamado previamente públicamente a los reguladores estadounidenses para que corten estas prácticas.
La Posición de Tan
Es notable que el comandante del acelerador de startups prestigioso y prolífico de Silicon Valley no esté de acuerdo.
Para ser claro, Tan no está abogando por que laboratorios de IA estadounidenses utilicen credenciales robadas para destilar. Quiere que sean libres de venir por la puerta principal. De hecho, su argumento es dual. Siente que es un exceso que los laboratorios de IA dicten qué pueden hacer sus clientes con la información que sus modelos comparten con ellos.
También señala que los laboratorios de IA propietarios no pidieron permiso cuando aspiraron tanta del conocimiento humano como pudieron para entrenar sus modelos. Infamemente ingirieron mucho material con derechos de autor sin permiso de los titulares de esa propiedad intelectual.
"Controlar lo que los usuarios y clientes hacen con llamadas de API a modelos de peso cerrado se siente limitante, y hay un papel que el gobierno puede jugar aquí para normalizar esto", escribió en sus comentarios a TechCrunch.
Fuente: TechCrunch