Tres adolescentes demandaron a Grok por los desnudos que generó el chatbot
Fue desgarrador ver a mi hija con ataques de pánico al descubrir que usaron su imagen, dijo la madre de una de las demandantes.
Esta semana, un grupo adolescentes presentó en San Francisco, Estados Unidos, una demanda contra xAI, la compañía de inteligencia artificial de Elon Musk, en la que acusaron al chatbot Grok de haber utilizado imágenes suyas para crear falsificaciones con desnudos.
Leé también: Esquirlas del escándalo: la red social X lanza una función que bloquea la manipulación de contenido con IA
La presentación judicial es la continuación de un escándalo que protagonizó Grok a comienzos de este año, cuando proliferaron fotografías manipuladas con IA.
Según un revelamiento, en apenas 11 días Grok generó aproximadamente 3 millones de imágenes sexualizadas, 23.000 de ellas involucrando a niños.
Demandaron a xAI por las fotos sexualizadas que generó Grok
Tal como recuerda la publicación TechCrunch, la divulgación de las mencionadas imágenes provocó una ola de críticas, con señalamientos por parte de organizaciones de defensa e investigaciones en varios países. La nueva demanda profundiza en los daños que esa laxitud en el modelo de IA provocó, particularmente, a los menores de edad.
Leé también: Sigue el escándalo en Grok: frenó las imágenes no consentidas de mujeres, pero aún genera desnudos de varones
Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador, declaró la madre de una de las adolescentes detrás de esta demanda.
Las abogadas que representan a las demandantes señalaron en un comunicado que xAI diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos, sin implementar protecciones contra la pornografía infantil.
La presentación detalló que una de las adolescentes sufre pesadillas en forma recurrente, que otra tiene miedo de asistir a su acto de graduación escolar y que la tercera precisa apoyo médico para dormir, en todos los casos como consecuencia de la divulgación de deepfakes con IA que modificaron imágenes suyas (reales) para convertirlas en contenido con desnudos.
Si bien la compañía de Elon Musk bloqueó las funciones que permitían generar ese tipo de imágenes, la determinación llegó tarde, cuando muchas de las imágenes ya circulaban en la Web.
Leé también: Allanaron las oficinas de la red social X en Francia en una investigación sobre pornografía infantil
En la demanda se menciona el caso de una persona, que ya se encuentra detenida, que usó Grok para editar con IA fotos que tomó de redes sociales y de anuarios escolares, generando imágenes sexualizadas hiperrealistas. Ese contenido manipulado circuló luego en la red social X, en el mensajero Telegram e incluso en la Dark Web, según se indica en la presentación judicial.
