Tres adolescentes en Estados Unidos presentaron el lunes una demanda colectiva contra xAI, la inteligencia artificial de Elon Musk, tras acusar a su chatbot Grok de haber generado imágenes pornográficas de ellos a partir de fotos reales, anunciaron sus abogados.
Tres adolescentes en Estados Unidos presentaron el lunes una demanda colectiva contra xAI, la inteligencia artificial de Elon Musk, tras acusar a su chatbot Grok de haber generado imágenes pornográficas de ellos a partir de fotos reales, anunciaron sus abogados.
MIRAR: Cómo la empresa de inteligencia artificial Anthropic se enfrentó al Pentágono al bloquear el uso de su tecnología para armas autónomas
Esta acción judicial está relacionada con la proliferación a finales del año pasado de montajes hiperrealistas (deepfakes, en inglés) de mujeres y niños desnudos.
La aparición de estas imágenes en las redes sociales provocó una ola de indignación global y la apertura de investigaciones en varios países y en California.
La demanda cita el caso de una persona ya detenida, que utilizó Grok para transformar fotografías corrientes de chicas jóvenes, tomadas de redes sociales o de anuarios escolares, en imágenes sexualizadas hiperrealistas.
Estos montajes circularon luego
“Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador”, afirma en un comunicado la madre de uno de los adolescentes, del estado de Tennessee.
Una de las demandantes sufre pesadillas recurrentes, otra necesita asistencia médica para dormir y tiene miedo de asistir a su ceremonia de graduación.
xAI “diseñó deliberadamente a Grok para producir contenido sexualmente explícito con fines de lucro”, sin implementar las protecciones utilizadas por otros importantes actores de la IA contra la pornografía infantil, denuncian los abogados.
Según un estudio del Centro para la Lucha contra el Odio Digital (CCDH), Grok habría generado cerca de tres millones de imágenes sexualizadas en sólo 11 días a finales de 2025, de las cuales 23.000 representaban a menores.
En respuesta al escándalo, xAI restringió la generación de imágenes con Grok únicamente a sus suscriptores de pago a mediados de enero.
