Garry Tan de Y Combinator quiere que laboratorios de IA abiertos estadounidenses "destilen" modelos fronterizos tambien

Cuando se trata de laboratorios de IA chinos utilizando técnicas de destilación para extraer conocimiento de los fabricantes de modelos fronterizos, Garry Tan, CEO de Y Combinator, espera que los reguladores se mantengan alejados. De hecho, cree que los laboratorios de IA estadounidenses deberían quizás jugar el mismo juego.

"No haría nada", le dijo a CNBC en una entrevista a principios de esta semana. "Podríamos argumentar que debería haber un régimen estadounidense de destilación".

Destilación y Competencia

Elaboró a TechCrunch que esto significa que quiere laboratorios más pequeños de IA de código abierto estadounidenses para usar el mismo tipo de técnicas de entrenamiento en laboratorios de IA fronterizos estadounidenses, dando a los EE.UU. un conjunto más robusto de opciones de código abierto que no sean chinas.

La destilación es cuando un fabricante de modelos solicita extensamente otro modelo para aprender cómo funciona y razona. Es comúnmente, y legítimamente, utilizado por laboratorios de IA para ayudar a entrenar nuevos modelos.

Contexto Regulatorio

Anthropic esta semana lanzó su segundo informe alegando que laboratorios chinos están comprometidos en "ataques de destilación ilícita", ocultando sus identidades para destilar sin permiso y basándose en fraude y credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había llamado públicamente anteriormente a los reguladores estadounidenses para que tomen medidas contra la destilación.

Es notable que el comandante del acelerador de inicio prestigioso y prolífico de Silicon Valley no esté de acuerdo.

Perspectiva de Tan

Para ser claro, Tan no está abogando por que laboratorios de IA estadounidenses usen credenciales robadas para destilar. Quiere que sean libres de entrar por la puerta delantera. De hecho, su argumento es dual. Siente que es una sobrecarga para laboratorios de IA dictar lo que sus clientes pueden hacer con la información que sus modelos comparten con ellos.

También señala que los laboratorios de IA propietarios no pidieron permiso cuando aspiraron la mayor cantidad posible de conocimiento humano para entrenar sus modelos. Famosamente ingirieron bastante material con derechos de autor sin el permiso de los titulares de esa propiedad intelectual.

"Controlar lo que los usuarios y clientes hacen con las llamadas API a modelos de peso cerrado se siente restrictivo, y hay un papel que el gobierno puede jugar aquí para normalizar...", comenzó a decir, aunque sus pensamiento parecían evolucionar en el momento.

Fuente: TechCrunch