CEO de Y Combinator Garry Tan quiere que laboratorios IA estadounidenses también destilen modelos
Garry Tan, CEO de Y Combinator, opina que laboratorios de IA abiertos estadounidenses deberían tener derecho a destilar modelos frontera, sin que los gobiernos intervengan, para crear opciones de modelos abiertos más robustas.
Cuando se trata de laboratorios de IA chinos usando técnicas de destilación para extraer conocimiento de creadores de modelos frontera, Garry Tan, CEO de Y Combinator, espera que los reguladores se mantengan fuera. De hecho, piensa que los laboratorios de IA estadounidenses quizás deberían jugar el mismo juego.
"No haría nada", le dijo a CNBC en una entrevista a principios de esta semana. "Podríamos argumentar que debería haber un régimen de destilación estadounidense".
Elaboró para TechCrunch que esto significa que quiere que laboratorios de IA de código abierto más pequeños y estadounidenses utilicen el mismo tipo de técnicas de entrenamiento en laboratorios de IA frontera estadounidenses, dando a Estados Unidos un conjunto más robusto de opciones de código abierto que no sean chinas.
¿Qué es la destilación de modelos?
La destilación es cuando un creador de modelos interroga extensivamente a otro modelo para aprender cómo funciona y razona. Es comúnmente, y legítimamente, utilizada por laboratorios de IA para ayudar a entrenar nuevos modelos.
Anthropic esta semana lanzó su segundo informe alegando que laboratorios chinos están comprometidos en "ataques de destilación ilícitos", ocultando sus identidades para destilar sin permiso y confiando en fraude y credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había llamado previamente públicamente a los reguladores estadounidenses a frenar la destilación.
Perspectiva diferente sobre regulación
Es notable que el comandante del prestigioso e influyente acelerador de startups de Silicon Valley no esté de acuerdo.
Para ser claro, Tan no está abogando por que laboratorios de IA estadounidenses usen credenciales robadas para destilar. Quiere que sean libres de entrar por la puerta principal. De hecho, su argumento es doble. Siente que es una invasión de autoridad que laboratorios de IA dicten qué pueden hacer sus clientes con la información que sus modelos comparten con ellos.
También señala que los laboratorios de IA propietarios no pidieron permiso cuando aspiraron tanta información humana como pudieron para entrenar sus modelos. Famosamente ingirieron una gran cantidad de material con derechos de autor sin el permiso de esos poseedores de propiedad intelectual.
"Controlar lo que usuarios y clientes hacen con llamadas API a modelos de peso cerrado se siente restrictivo, y hay un papel que el gobierno puede jugar aquí para normalizar esto", dijo Tan.
Fuente: TechCrunch