Anthropic comparte más detalles sobre cómo funcionarán las marcas de agua de Claude

Anthropic publicó una entrada de blog el viernes buscando responder algunas preguntas básicas sobre cómo marcará con agua el texto generado por su chatbot Claude. Tales como: ¿Cómo funcionará exactamente el marcado con agua? ¿Se puede ocultar con edición? ¿Y cómo afecta esto al código?

Los usuarios de Claude han estado debatiendo el movimiento desde que la empresa reveló a principios de esta semana que realizaría este marcado con agua para cumplir con el Código de Transparencia de la Ley de IA de la UE, que requiere que las empresas de IA utilicen sistemas que permitan identificar contenido generado por IA.

Debate en redes y cancelación de suscripciones

En Reddit, por ejemplo, un usuario caracterizó esto como una conspiración contra usuarios inocentes de Claude, mientras que otro afirmó: "La única razón por la que no querrías esto es para engañar a la gente". Y Business Insider reporta que "docenas" de usuarios en X han afirmado cancelar sus suscripciones a Claude como resultado.

Detalles técnicos del marcado con agua

La nueva entrada de Anthropic comienza con una descripción general del concepto de marcado con agua, explicando que al tomar "decisiones de bajo riesgo" como elegir entre las palabras "nublado" y "gris" para describir el clima, Claude puede crear un patrón en sus respuestas que es "indetectable para el lector, pero es detectable para cualquiera que tenga una clave que lo codifique".

"El marcado con agua no afecta la calidad de la salida de Claude", dijo la empresa. "Para un lector, una respuesta marcada con agua es indistinguible de una sin marcar".

Implementación de SynthID-Text

Más específicamente, Anthropic dijo que utilizará el enfoque SynthID-Text que el equipo de Google DeepMind presentó en 2024, y que planea lanzar una API de detección de marca de agua. También señaló que el marcado con agua es distinto de los enfoques de detección de IA ofrecidos por empresas como Pangram que buscan "indicios" en la escritura (como la construcción "esto no es [X], es [Y]") para revelar el uso de IA: "Detectar estos patrones es fundamentalmente diferente de verificar una marca de agua".

¿Se puede eliminar editando?

¿Podría alguien simplemente reescribir el texto para ocultar la marca de agua? Anthropic dijo que es posible, pero "la edición ligera probablemente no eliminará completamente la marca de agua", mientras que "una reescritura completa donde cada palabra sea reemplazada" lo hará.

"En este último caso, por supuesto, es cuestionable si el texto puede describirse más como generado por IA", dijo la empresa.

Fuente: TechCrunch