OpenAI presenta Lockdown Mode para proteger datos sensibles de ataques de inyección de prompts

OpenAI anunció una nueva función que dice que proporcionará protección adicional contra ataques de inyección de prompts, donde instrucciones de chatbot maliciosas se ocultan en páginas web y otras fuentes de contenido. Entre otras cosas, Lockdown Mode deshabilitará la navegación web en vivo (así solo puedes acceder a contenido en caché), la recuperación y visualización de imágenes de la web (todavía puedes generar imágenes), investigación profunda y modo agente. La compañía dice que incluso con Lockdown Mode activado, ChatGPT podría seguir siendo vulnerable a inyecciones de prompts — que podrían, por ejemplo, "aparecer en contenido web en caché o en un archivo cargado, y aún podrían afectar el comportamiento o precisión de una respuesta". Pero el objetivo es reducir la probabilidad de que datos sensibles se compartan en el proceso. "Lockdown Mode no está destinado para todos", dice OpenAI. "Está diseñado para personas y organizaciones que manejan datos sensibles y quieren protección más estricta de riesgos de exfiltración de datos relacionados con inyección de prompts". La compañía dice que actualmente está lanzando Lockdown Mode a cuentas de ChatGPT Business de autoservicio, así como a cuentas personales elegibles. Esta es una medida importante en la evolución de la seguridad de IA, reconociendo que a medida que estas herramientas se integran más en operaciones empresariales y manejo de información sensible, se necesitan salvaguardas más robustas. Los ataques de inyección de prompts han demostrado ser particularmente insidiosos porque pueden ocultar instrucciones maliciosas en contextos que parecen legítimos. Lockdown Mode representa un paso hacia la creación de ambientes más seguros para usuarios empresariales, aunque OpenAI es clara en que no es una solución completa y debe ser parte de una estrategia de seguridad más amplia.