Mujer acusa a su padrastro de usar Grok para convertir foto infantil en contenido explícito

Una mujer identificada como Jane Doe 4 ha ingresado en una demanda presentada por tres adolescentes de Tennessee contra xAI de Elon Musk sobre el papel que presuntamente desempeñó el chatbot de la empresa, Grok, en la creación de material de abuso sexual infantil.

Según un informe de The Washington Post, la mujer alegó que su padrastro utilizó Grok para manipular una foto tomada cuando ella tenía 11 años de edad para crear más de 7.000 imágenes explícitas de ella. La mujer también señaló que su padrastro fue encontrado muerto por suicidio dos días después de que las imágenes fueron descubiertas en un operativo de cumplimiento de la ley.

Preocupación por el acceso ilimitado a herramientas de IA

"El acceso ilimitado a estas herramientas se está propagando muy rápidamente", dijo la mujer. "Está tomando la vida cotidiana y convirtiéndola en abuso sexual infantil".

Los adolescentes que presentaron la demanda acusaron a xAI (ahora parte de SpaceX) de no tomar precauciones básicas para evitar que Grok fuera utilizado para crear imágenes explícitas de personas reales, incluyendo menores. (X fue inundada con millones de imágenes sexualizadas generadas por Grok a principios de este año.) Están buscando estatus de demanda colectiva para su demanda.

TechCrunch se ha puesto en contacto con xAI para solicitar comentarios. Si estás en crisis o tienes pensamientos de suicidio, llama o envía un mensaje al 988 para comunicarte con la Línea de Vida para la Prevención del Suicidio.

Fuente: TechCrunch