El conflicto de OpenAI con matemáticos solo se está intensificando

Veinticinco matemáticos prominentes firmaron una carta abierta argumentando que los laboratorios de IA están amenazando su trabajo intelectual mientras buscan superarse entre sí con soluciones a famosos problemas matemáticos. Cada signatario ha sido galardonado con la Medalla Fields, considerada el premio más prestigioso en matemáticas.

Esta semana, el profesor de la Universidad de Nueva York Tristan Buckmaster acusó a OpenAI de presionarle para que no acreditara a un colaborador que trabaja para Anthropic por resolver un importante problema matemático, y se preguntó si la compañía había utilizado su trabajo con Codex para producir su propia prueba revolucionaria durante un fin de semana maratónico de inferencia.

Respuesta de OpenAI

El jueves, OpenAI retiró su patrocinio de un evento matemático en CalTech después de que la compañía fue criticada por investigadores de la universidad.

Mientras que la capacidad de los modelos de IA para resolver los desafíos matemáticos pendientes del mundo podría ser una bendición para la humanidad, los firmantes de la nueva carta argumentan que eso solo será el caso si esas soluciones pueden ser entendidas y comunicadas por la comunidad matemática y, en última instancia, por el resto del mundo.

Preocupaciones sobre atribución y plagio

"A menudo estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, y la citación del trabajo anterior relevante de otros," escribieron. Y la prueba de OpenAI sigue sin ser verificada. "Como en todas las profesiones creativas, esto plantea graves preguntas de atribución y plagio. Además, sin los matemáticos dispuestos que deben hacerse cargo de su desarrollo e integración en el canon matemático, las ideas concebidas por IA nunca se harían completamente vivas y se perdería la crucial cadena de transmisión humana entre matemáticos."

Temores sobre la cultura de investigación abierta

Con otros matemáticos creciendo paranoicos y preguntándose si su uso de Codex fue a su vez alimentado en los nuevos modelos de OpenAI, hay un temor real de que la cultura de investigación abierta se vea amenazada. Hoy, si los laboratorios de frontera ven un camino útil hacia un descubrimiento, pueden gastar decenas de millones de dólares usando LLMs para superar a los investigadores originales en una prueba, una dinámica que incentivará el secreto.

Esta carta sigue a la Declaración de Leiden, lanzada por investigadores que abogan por más cautela en el desarrollo de IA y mayor transparencia de los laboratorios de frontera.

Fuente: TechCrunch