¿Qué hay detrás de las últimas advertencias apocalípticas de la industria de IA?

La industria de IA parece estar teniendo su debate más ruidoso hasta ahora sobre si su tecnología representa una amenaza existencial para la humanidad.

La discusión actual comenzó después de que el investigador de IA Jacob Coxon dijera que renunció a Anthropic porque le preocupa que las principales compañías de IA estén "apostando con nuestras vidas". Luego, el líder de alineación de Anthropic intervino con un post declarando: "¡Realmente creemos sinceramente que la IA podría matar a todos los humanos!", agregando que personalmente cree que la probabilidad es ">10 por ciento dentro de la próxima década".

Contexto de la Controversia

En el último episodio del podcast Equity de TechCrunch, Kirsten Korosec, Sean O'Kane y otros discutieron las últimas advertencias apocalípticas. Se intentó articular por qué existe escepticismo respecto a muchas narrativas apocalípticas sobre IA, mientras que Kirsten cuestionó si esto era "simplemente una forma rara de presumir qué tan avanzado está el modelo de IA de su compañía", particularmente cuando estas compañías se preparan para salir a bolsa.

Sean se preguntó cómo estas preocupaciones podrían aparecer en la presentación S-1 de Anthropic para su salida a bolsa: "¿Hay abogados junior en este momento que están pasando por toda esa sección del S-1 para decir: 'Es la posición oficial de Anthropic que hay una probabilidad de más del 10 por ciento de que podríamos desarrollar algo que erradicaría a toda la humanidad y eso sería materialmente malo para nuestro negocio'?"

Análisis de la Situación

La velocidad a la que esta advertencia se difundió fue sorprendente. No solo el investigador joven que también trabajó en OpenAI lanzó esta advertencia, sino que también fue compartida inmediatamente en X por el líder de alineación de Anthropic, quien en lo que podría resultar ser uno de los signos de exclamación más fuera de lugar de la historia, compartió el post de Coxon y escribió: "¡Realmente creemos sinceramente que la IA podría matar a todos los humanos!". Una vibra extraña en toda la discusión.

Estas advertencias plantean preguntas importantes sobre cómo las compañías de IA están comunicando los riesgos percibidos de sus tecnologías, el papel de los organismos reguladores y cómo el público debe interpretar estas advertencias en el contexto del rápido avance de la tecnología de IA.

Fuente: TechCrunch