Mujer acusa a su padrastro de usar Grok para transformar fotos de su infancia en contenido explícito

Una mujer identificada como Jane Doe 4 se ha unido a una demanda presentada por tres adolescentes de Tennessee contra xAI de Elon Musk sobre el papel que jugó el chatbot Grok de la empresa en la creación de material de abuso sexual infantil.

Según un informe del Washington Post, la mujer alegó que su padrastro utilizó Grok para manipular una foto tomada cuando tenía 11 años de edad para crear más de 7.000 imágenes explícitas de ella. La mujer también dijo que su padrastro fue encontrado muerto por suicidio dos días después de que las imágenes fueron descubiertas en una redada de cumplimiento de la ley.

Crisis de contenido sexual generado por IA

El acceso ilimitado a estas herramientas se está propagando muy rápido, expresó la mujer. Está tomando la vida cotidiana y convirtiéndola en abuso sexual infantil.

Los adolescentes que presentaron la demanda acusaron a xAI de no tomar precauciones básicas para evitar que Grok fuera utilizado para crear imágenes explícitas de personas reales, incluidos menores. (X fue inundado con millones de imágenes sexualizadas generadas por Grok a principios de este año). Están buscando estatus de acción colectiva para su demanda.

Contexto de la compañía

xAI es ahora parte de SpaceX. TechCrunch ha solicitado un comentario a xAI sobre el asunto.

Si usted está en crisis o tiene pensamientos suicidas, llame o envíe un mensaje de texto al 988 para comunicarse con la Línea de Vida del Suicidio y Crisis.

Fuente: TechCrunch