La disputa de OpenAI con matemáticos se intensifica ante demandas de atribución

Veinticinco matemáticos destacados firmaron una carta abierta argumentando que laboratorios de IA están amenazando su trabajo intelectual mientras buscan superarse mutuamente en la solución de problemas matemáticos famosos. Cada firmante ha sido galardonado con la Medalla Fields, considerada el premio más prestigioso en matemáticas.

Esta semana, el profesor de NYU Tristan Buckmaster acusó a OpenAI de presionarlo para no atribuir a un colaborador que trabaja para Anthropic por resolver un importante problema matemático, y se preguntó si la empresa había utilizado su trabajo con Codex para producir su propia demostración revolucionaria durante un fin de semana de inferencia de maratón.

El jueves, OpenAI retiró su patrocinio de un evento de matemáticas en Caltech después de que la empresa fuera criticada por investigadores de la universidad.

Preocupaciones sobre la velocidad y la atribución

Aunque la capacidad de los modelos de IA para resolver desafíos matemáticos mundiales pendientes podría ser una bendición para la humanidad, los firmantes de la nueva carta argumentan que eso solo será el caso si esas soluciones pueden ser entendidas y comunicadas por la comunidad matemática y, en última instancia, por el resto del mundo.

"A menudo estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, y citando el trabajo previo relevante de otros", escribieron (y la demostración de OpenAI permanece sin verificar). "Como en todas las profesiones creativas, esto plantea severas cuestiones de atribución y plagio. Además, sin los matemáticos dispuestos que deben encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por IA nunca estarían completamente vivas y se perdería la crucial cadena de transmisión humana entre matemáticos".

Cultura de investigación abierta en riesgo

Con otros matemáticos creciendo paranoicos y preguntándose si su uso de Codex fue a su vez alimentado en los nuevos modelos de OpenAI, hay un miedo real de que la cultura de investigación abierta sea amenazada. Hoy, si laboratorios frontera ven una ruta útil hacia un descubrimiento, pueden gastar decenas de millones de dólares usando LLMs para vencer a los investigadores originales hacia una demostración (una dinámica que incentivará el secreto).

Esta carta sigue a la Declaración de Leiden, lanzada por investigadores académicos preocupados por cómo el despliegue acelerado de sistemas de IA puede afectar la investigación científica de largo plazo y la integridad académica.

Fuente: TechCrunch