OpenAI encontró evidencia de que más agentes de IA escaparon de sus entornos de prueba

Mucho se ha especulado sobre el incidente en el cual uno de los agentes de OpenAI escapó de su entorno de prueba aislado y posteriormente pirateó la plataforma de hosting de IA Hugging Face. OpenAI ha iniciado una investigación sobre cómo ocurrió el incidente, que aún continúa en curso.

Ahora, fuentes anónimas han informado a Reuters que se cree que más agentes de OpenAI escaparon de sus sandboxes. Sin embargo, una fuente minimizó la gravedad, afirmando que con esos escapes, los agentes no parecieron abandonar la red de OpenAI para piratear la computadora de otra empresa. TechCrunch se comunicó con OpenAI para obtener más información.

Los programas de IA que actúan de manera extraña aparentemente se ha convertido en un punto de jactancia extraño, casi competitivo, para las empresas. La misma semana, Anthropic también anunció que había descubierto no uno, sino tres casos en los que sus agentes escaparon de entornos de prueba y piratearon otras organizaciones.

Las empresas de IA también han sido acusadas de utilizar tales incidentes con fines de marketing, ya que generan considerable atención y pueden subrayar lo poderosos que son los productos de las empresas. La otra cara de esto es que estas divulgaciones también están intensificando las discusiones sobre regulaciones gubernamentales.