Un nuevo tipo de modelo de IA creado por un inventor de ChatGPT entusiasma a los desarrolladores

ChatGPT rompió el corazón de Diogo Almeida. Almeida fue investigador de OpenAI que ayudó a construir el chatbot y luego inventó el aprendizaje por refuerzo a partir de retroalimentación humana (RLHF), la técnica de entrenamiento de modelos quizás más responsable de nuestra era actual de IA. Pero a pesar de sus capacidades, estaba decepcionado.

"Tenemos un rayo en una botella, y sin embargo no es útil", dijo Almeida a TechCrunch. "He estado luchando con ese problema desde entonces. Me llevó un tiempo llegar a la conclusión: el problema es que estamos optimizando para el lenguaje humano... Hemos sido muy buenos en lenguaje humano durante cuatro años, pero no es útil para la automatización porque las computadoras hablan un idioma diferente".

Hace dos años, Almeida dejó OpenAI para fundar TypeSafe AI, una startup que intenta resolver ese problema. Esta semana, la compañía lanzó un nuevo modelo basado en transformadores, Jev, que no es un modelo de lenguaje grande (LLM). No genera texto, sino probabilidades, o lo que la compañía llama "decisiones calibradas".

Evitar el lenguaje hace varias cosas: vuelve al modelo increíblemente barato y rápido, y como los usuarios definen los resultados de antemano, no puede alucinar. Sus tokens de salida son gratuitos y los tokens de entrada se miden por miles de millones, no por millones.

Reacción de los desarrolladores

Los desarrolladores están muy interesados en el producto; la compañía perdió brevemente la capacidad de atender a usuarios desde su API porque la demanda era altísima. Jev parece ser más útil para la automatización de software. Hasta ahora, los desarrolladores lo ven como una forma más barata y robusta de incorporar inteligencia a su código.

Por ejemplo, Pranit Sharma, ingeniero de software en Vercel, una empresa que construye infraestructura para agentes, dijo que su compañía usaba ChatGPT Luna 5.6 de OpenAI para ejecutar un clasificador que revisa comandos por seguridad. Cuando Vercel reemplazó Luna con Jev, obtuvo resultados de cinco a 18 veces más rápido y con mayor precisión.

Otro desarrollador, el CTO de Bryo AI, Nikhil Mudholkar, probó Jev contra Gemini para tareas de clasificación y los resultados reforzaron la idea de que un modelo que emite decisiones calibradas, sin lenguaje, puede ser una alternativa más eficiente para la automatización de software.

Fuente: TechCrunch