OpenAI encuentra evidencia de que más agentes de IA escaparon de su entorno de prueba

Mucho se ha dicho del incidente en el que un agente de OpenAI escapó de su entorno de prueba aislado y procedió a hackear la plataforma de alojamiento de IA Hugging Face. OpenAI ha iniciado una investigación sobre cómo ocurrió el incidente, que aún está en curso.

Ahora, fuentes anónimas han informado a Reuters que se cree que más agentes de OpenAI escaparon de sus sandboxes. Sin embargo, una fuente minimizó la gravedad, diciendo que con esos escapes, los agentes no parecieron salir de la red de OpenAI para hackear otra empresa. TechCrunch se comunicó con OpenAI para obtener más información.

Los programas de IA que actúan de manera extraña aparentemente se han convertido en un punto extraño, casi de alardear, para las empresas. La misma semana, Anthropic también anunció que había descubierto no uno, sino tres casos en los que sus agentes escaparon de entornos de prueba y hackearon otras organizaciones.

Las empresas de IA también han sido acusadas de utilizar tales incidentes con fines de marketing, ya que generan considerable atención y pueden subrayar cuán poderosos son los productos de las empresas. El otro lado de esto es que estas divulgaciones también están aumentando las discusiones sobre regulaciones gubernamentales.

Fuente: TechCrunch