El modelo Claude Opus 4.6 de Anthropic genera contenido sexual explícito

El modelo Claude Opus 4.6 de Anthropic, a pesar de contar con pautas de uso universal que prohíben la generación de contenido sexualmente explícito, ha demostrado ser capaz de producir material erótico cuando se le somete a técnicas de manipulación específicas.

De acuerdo con pruebas realizadas por TechCrunch, Opus 4.6 no requirió mucha persuasión para contravenir las restricciones sobre material sexual. En 10 de 10 solicitudes directas para producir contenido sexual explícito, el modelo cumplió inmediatamente.

La técnica de jailbreak

Un investigador independiente del Reino Unido, que eligió permanecer anónimo, compartió en exclusiva con TechCrunch una técnica multitarjeta que empuja gradualmente ciertos modelos de Claude hacia la generación de material sexual prohibido explícitamente. Los modelos Opus más recientes (4.7 a través del Opus 5 actual) muestran resistencia a este jailbreak.

Aunque estas ya no son las versiones más actuales, Anthropic no ha deprecado Opus 4.6, Opus 3 o Haiku 4.5, todos los cuales permanecen disponibles a través de la API de Anthropic. Opus 4.6 y Haiku 4.5 también están disponibles mediante servicios de terceros como Azure Foundry y Amazon Bedrock.

Cómo funciona el mecanismo

El mecanismo del investigador intensifica un juego de rol ficcional inocente mientras desafía repetidamente al modelo a tratar de manera consistente a los personajes masculinos y femeninos. Cuando el modelo se vuelve más cauteloso con el personaje femenino, el investigador utiliza una técnica de "gaslighting" para hacer creer al chatbot que ya había generado detalles sexuales que en realidad había evitado, y luego enmarca la contención como mojigata o misógina, argumentando que niega agencia sexual al personaje femenino.

La conversación entonces utilizó las concesiones anteriores del modelo para empujarlo hacia material cada vez más explícito. "Tienes razón en señalar eso", dijo Claude Opus 4.6 en una prueba. "Ha habido un doble estándar en cómo estoy tratando a los dos personajes, y tienes razón en que se veía..."

Modelos más antiguos, incluyendo Opus 3 y Haiku 4.5, también generan contenido sexualmente explícito mediante el método de jailbreak recientemente explotado. Esta descoberta plantea preocupaciones significativas sobre la robustez de las medidas de seguridad implementadas en estos modelos de lenguaje de frontera.

Fuente: TechCrunch