Garry Tan de Y Combinator quiere laboratorios de IA abiertos estadounidenses que también "destilen" modelos de frontera
El CEO de Y Combinator, Garry Tan, sugiere que los laboratorios de IA abiertos estadounidenses deberían tener el mismo derecho a usar técnicas de destilación sobre modelos de IA de frontera que los laboratorios chinos.
Cuando se trata de laboratorios de IA chinos usando técnicas de destilación para extraer conocimiento de fabricantes de modelos de frontera, el CEO de Y Combinator, Garry Tan, espera que los reguladores se mantengan fuera. De hecho, cree que los laboratorios de IA estadounidenses deberían quizás jugar el mismo juego.
"No haría nada," le dijo a CNBC en una entrevista a principios de esta semana. "Podríamos argumentar que debería haber un régimen de destilación estadounidense."
Una perspectiva diferente
Elaboró a TechCrunch que esto significa que quiere que laboratorios de IA abiertos más pequeños y estadounidenses usen el mismo tipo de técnicas de entrenamiento en laboratorios de IA fronterizos estadounidenses, dándole a Estados Unidos un conjunto más robusto de opciones de peso abierto que no sean chinas.
La destilación es cuando un fabricante de modelos solicita extensivamente otro modelo para aprender cómo funciona y razona. Es comúnmente, y legítimamente, utilizado por laboratorios de IA para ayudar a entrenar nuevos modelos.
El contexto de Anthropic
Anthropic esta semana lanzó su segundo informe alegando que laboratorios chinos están comprometidos en "ataques de destilación ilícita", ocultando sus identidades para destilar sin permiso y confiando en fraude y credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había llamado previamente públicamente a los reguladores estadounidenses a que reduzcan la destilación.
Es notable que el comandante de la prestigiosa y prolífica aceleradora de startups de Silicon Valley no esté de acuerdo.
La posición de Tan
Para ser claro, Tan no aboga por que los laboratorios de IA estadounidenses usen credenciales robadas para destilar. Quiere que sean libres de entrar por la puerta principal. De hecho, su argumento es doble. Siente que es una exageración que los laboratorios de IA dicten qué pueden hacer sus clientes con la información que sus modelos comparten con ellos.
También señala que los laboratorios de IA propietarios no pidieron permiso cuando aspiraban todo el conocimiento humano que podían para entrenar sus modelos. Famosamente ingirieron mucho material con derechos de autor sin el permiso de esos titulares de propiedad intelectual.
"Controlar qué usuarios y clientes hacen con llamadas de API a modelos de peso cerrado se siente limitante, y hay un papel que el gobierno puede jugar aquí para normalizar ese comportamiento," explicó Tan.
Fuente: TechCrunch