La disputa de OpenAI con matemáticos se intensifica por competencia en pruebas

Veinticinco matemáticos líderes firmaron una carta abierta argumentando que los laboratorios de IA están amenazando su trabajo intelectual mientras buscan superarse mutuamente con soluciones a problemas matemáticos famosos. Cada firmante ha sido galardonado con la Medalla Fields, considerado el premio más prestigioso en matemáticas.

Esta semana, el profesor de NYU Tristan Buckmaster acusó a OpenAI de presionar a un colaborador suyo para que no lo acreditara por resolver un importante problema matemático, y se preguntó si la empresa había usado su trabajo con Codex para producir su propia prueba revolucionaria durante un fin de semana maratónico de inferencia.

El jueves, OpenAI retiró su patrocinio de un evento de matemáticas en CalTech después de que investigadores de la universidad criticaran a la empresa.

Implicaciones para la Comunidad Matemática

Aunque la capacidad de los modelos de IA para resolver los desafíos matemáticos más importantes del mundo podría ser una bendición para la humanidad, los firmantes de la nueva carta argumentan que solo será así si esas soluciones puedan ser entendidas y comunicadas por la comunidad matemática y, en última instancia, por el resto del mundo.

"A menudo estas soluciones se anuncian precipitadamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, y la citación del trabajo previo relevante de otros", escribieron. Y la prueba de OpenAI aún no ha sido verificada. "Como en todas las profesiones creativas, esto plantea severas preguntas de atribución y plagio. Además, sin los matemáticos dispuestos que deben encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por IA nunca llegarían a estar completamente vivas y se perdería la crucial cadena de transmisión humana entre matemáticos".

Preocupaciones sobre Cultura Abierta

Con otros matemáticos volviéndose paranoides y preguntándose si su uso de Codex fue a su vez alimentado a los nuevos modelos de OpenAI, existe un verdadero miedo de que la cultura de investigación abierta será amenazada. Hoy, si laboratorios de frontera ven un camino útil hacia un descubrimiento, pueden gastar decenas de millones de dólares usando modelos de lenguaje para vencer a los investigadores originales en una prueba, una dinámica que incentivará el secreto.

Esta carta sigue a la Declaración de Leiden, lanzada recientemente, que plantea preocupaciones similares sobre las prácticas de laboratorios de IA en torno a investigación colaborativa y atribución.

Fuente: TechCrunch