Algunos usuarios de Claude enojados por los watermarks invisibles de Anthropic que revelan uso en trabajos y clases

Anthropic ha tomado la decisión de incrustar código invisible en los textos que genera Claude, marcándolos como contenido generado por IA. Esta nueva política fue implementada para satisfacer el Código de Transparencia de la Ley de IA de la UE, que ahora requiere que las empresas de tecnología etiqueten el contenido generado o editado por IA de una manera identificable por sistemas computacionales.

Sin embargo, mientras que los reguladores europeos pueden estar satisfechos, algunos usuarios de IA definitivamente no lo están. En Reddit se encuentra evidencia de descontento creciente, aunque otros usuarios del sitio no están de acuerdo con las críticas.

Uno de los posts más exagerados proviene de un usuario llamado visionode, cuya cuenta tiene solo tres semanas de antigüedad. Según visionode, el nuevo sistema de watermarking es una conspiración dracónica diseñada para victimizar a usuarios inocentes de chatbots en todo el mundo.

El argumento básico de visionode parece ser que, aunque los usuarios de Claude con suficientes conocimientos puedan ocultar la evidencia de su uso de IA parafraseando o limpiando sus resultados a través de otros servicios de IA, el usuario promedio de Claude será atrapado. En sus palabras: «¿Quién será atrapado? Tú. El estudiante que usó Claude para reorganizar un párrafo. El periodista que pidió a la IA resumir una transcripción de doscientas páginas. El escritor que tuvo bloqueo creativo y pidió sinónimos. Esos tipos salen del proceso con un tatuaje digital en la frente».

Contexto sobre las críticas

Sin embargo, hay que aclarar que esos no son los mejores ejemplos de usos problemáticos. Un periodista que pide a la IA resumir una transcripción de doscientas páginas no va a ser perjudicado por un watermark en ese resumen, a menos que copie y pegue el resumen textualmente en su artículo, lo cual es claramente poco ético y no debería estar ocurriendo.

Tampoco es ético para un estudiante copiar y pegar los resultados de Claude en un ensayo después de pedirle que «reorganice un párrafo». Otros usuarios de Reddit tampoco fueron particularmente solidarios con la indignación del usuario, con un comentarista simplemente diciendo «Mira a este tipo» y otro pidiendo «respirar profundo».

Fuente: TechCrunch