Sam Altman y el debate sobre la desaceleración de la IA

El CEO de OpenAI Sam Altman recientemente dijo que podría ser momento de "moderar el ritmo de desarrollo de IA" para que la sociedad pueda "fortalecerse alrededor de algunos de estos nuevos niveles de capacidad".

En el último episodio del podcast Equity de TechCrunch, Kirsten Korosec, Sean O'Kane y yo discutimos cómo los comentarios de Altman probablemente fueron motivados por un pirateo reciente en el que un agente de OpenAI breachó los sistemas de Hugging Face. Sean señaló que si bien un pirateo realizado por un agente de IA es novedoso, el pirateo en sí no fue "algo nuevo y avanzado".

"Fue más como la gente de Nixon irrumpiendo en Watergate que algún operativo ciberético furtivo, porque no necesitaba serlo, y no fue instructado a serlo", dijo Sean. "Con suerte, esto es un signo de que estas empresas avanzarán y serán más cuidadosas con eso".

Los comentarios de Altman también me dieron la oportunidad de preguntarme sobre la utilidad de todo el debate acelerador versus desaceleración, porque (sí, estoy a punto de citarme a mí mismo) el marco "en cierto sentido sugiere que solo hay un camino" y "todo lo que nos es permitido decidir, en la medida en que nos es permitido decidir en absoluto, es ¿aceleramos o ralentizamos?"

El panorama actual

Tal vez finalmente hemos llegado a un punto de inflexión aquí. Creo que un gran impulsor de esto tiene que ser lo que hablamos la semana pasada, con uno de los modelos de OpenAI irrumpiendo en los datos de Hugging Face y aparentemente breachando algunas otras cosas por internet también.

El no está pidiendo una pausa, como hemos visto que algunas personas en la industria tecnológica intenten hacer en el pasado. Fue muy cuidadoso con sus palabras y decir "moderar el ritmo". Y veremos cómo se mantiene. Cualquier precaución que veamos que algunos de estos laboratorios muestren a menudo se revierte cuando los incentivos los empujan hacia adelante a velocidad completa. Así que permanezco escéptico.

Ahora diré esto: Altman podría haber sido cuidadoso con sus palabras, pero OpenAI y Anthropic sí apoyaron una petición que refleja lo que él habló.

Y estoy de acuerdo contigo, creo que mucho de esto fue muy provocado por Hugging Face. Probablemente lo asustó y ciertamente a mucha gente en la industria.

Fuente: TechCrunch