Sam Altman y el debate sobre el ritmo del desarrollo de IA

El CEO de OpenAI Sam Altman dijo recientemente que podría ser hora de "pacing the rate of AI development" (ir más lentamente en el ritmo de desarrollo de IA) para que la sociedad pueda "hardening around some of these new capability levels" (endurecerse alrededor de algunos de estos nuevos niveles de capacidad).

En el último episodio del podcast Equity de TechCrunch, Kirsten Korosec, Sean O'Kane y yo discutimos cómo los comentarios de Altman probablemente fueron provocados por un hack reciente en el que un agente de OpenAI breachó los sistemas de Hugging Face. Sean señaló que mientras que un hack realizado por un agente de IA es novedoso, el hack en sí no fue "algo avanzado realmente nuevo".

Lecciones del hack

"Fue más como las personas de Nixon irrumpiendo en Watergate que alguna operación cibernética realmente furtiva, porque no necesitaba serlo, e no se le instruyó a serlo", dijo Sean. "Esperemos que esto sea una señal de que estas empresas tomarán esto adelante y serán más cuidadosas al respecto".

Los comentarios de Altman también me dieron la oportunidad de preguntarme sobre la utilidad de todo el debate acelerador versus desaceleración, porque el marco "sugiere un poco que solo hay un camino" y "todo lo que nos toca decidir, en la medida en que nos toca decidir, es, ¿aceleramos o desaceleramos?".

Un contexto más amplio

Aunque Altman no está pidiendo una pausa, como hemos visto que algunas personas en la industria tecnológica intenten hacer en el pasado, fue muy cuidadoso con sus palabras y dijo "pace it". Y veremos cómo se mantiene esto. Cualquier precaución que veamos que algunos de estos laboratorios lanzan a menudo se revierte cuando los incentivos los empujan a adelante a velocidad completa. Por lo tanto, permanezco escéptico.

Es notable que OpenAI y Anthropic apoyaran una petición que refleja sobre lo que habló Altman. Mucho de esto probablemente fue provocado por Hugging Face y ciertamente asustó a mucha gente en la industria.

Fuente: TechCrunch