Sam Altman y el debate sobre la desaceleración de la IA

El CEO de OpenAI Sam Altman recientemente dijo que podría ser momento para "acelerar el ritmo del desarrollo de la IA" para que la sociedad pueda "fortalecerse" alrededor de algunos de estos nuevos niveles de capacidad.

En el último episodio del podcast Equity de TechCrunch, Kirsten Korosec, Sean O'Kane y yo discutimos cómo los comentarios de Altman fueron probablemente provocados por un reciente hackeo en el que un agente de OpenAI atravesó los sistemas de Hugging Face. Sean señaló que aunque un hackeo realizado por un agente de IA es novedoso, el hackeo en sí no fue "algo nuevo avanzado".

"Fue más como cuando la gente de Nixon irrumpió en Watergate que alguna operación cibernética furtiva real, porque no necesitaba serlo, y no fue instruida para serlo", dijo Sean. "Esperemos que esto sea una señal de que estas empresas tomarán esto adelante y serán más cuidadosas con eso".

Los comentarios de Altman también me dieron la oportunidad de cuestionarme sobre la utilidad de todo el debate acelerador versus desaceleración, porque el marco "sugiere que solo hay un camino" y "todo lo que conseguimos decidir, en la medida que conseguimos decidir en absoluto, es ¿aceleramos o desaceleramos?"

No está pidiendo una pausa, como hemos visto que algunos en la industria tecnológica intenten hacer en el pasado. Fue muy cuidadoso con sus palabras y dijo, "Aceléralo". Y veremos cómo se mantiene esto. Cualquier precaución que vemos que algunos de estos laboratorios lanzan a menudo se revierte cuando los incentivos los empujan a reanudar, a toda velocidad.

Los comentarios de Altman han generado un debate más amplio sobre si la industria de la IA debe desacelerarse voluntariamente o si debería ser obligada por reguladores a hacerlo. Algunos, como el cofundador de Anthropic Dario Amodei, han abogado por una aproximación más cuidadosa al desarrollo de la IA, mientras que otros argumentan que la desaceleración sería perjudicial para la competencia global en IA.

Fuente: TechCrunch