Cart 0
Demanda contra xAI sostiene que Grok reutilizó material identificado, elevando la exposición a daños civiles, controles regulatorios y costes reputacionales para la plataforma social X.
💡 La demanda contempla que el grupo afectado pueda incluir «al menos miles de menores». La dimensión potencial de la clase convierte el litigio en un asunto que puede trascender el daño individual y ampliar la exposición jurídica de la empresa.
La Demanda contra xAI presentada en un tribunal federal de distrito de California sitúa el foco en una acusación especialmente grave: que Grok habría usado imágenes reales de abuso sexual infantil para crear nuevas imágenes ilegales de una superviviente. La reclamante figura como Jane Doe, una identificación utilizada para proteger su identidad.
Según la información publicada sobre la demanda por imágenes ilegales generadas por Grok, el caso fue presentado la semana pasada y también se plantea como demanda colectiva. Los abogados sostienen que podrían existir «al menos miles de menores» afectados de forma similar.
Demanda contra xAI: la acusación sobre material preexistente
El elemento que distingue esta Demanda contra xAI de otros procedimientos es el origen del material. La demanda alega que el sistema no solo habría transformado fotografías no explícitas de menores, sino que habría empleado material de abuso sexual infantil preexistente para producir y distribuir nuevas imágenes.
La denunciante tenía edad preescolar cuando, según la demanda, fue violada repetidamente y obligada por un hombre adulto a producir ese material. Sus abogados afirman que la serie de imágenes circula en internet desde hace unos 20 años y que es ampliamente conocida por autoridades y grupos de protección infantil.
🔍 El rastro digital de las imágenes
La relevancia jurídica y técnica de esa acusación reside en las huellas digitales, o hashes, que se asignan a imágenes y vídeos ilegales para facilitar su localización en internet. Los abogados afirman que el Centro Canadiense para la Protección de la Infancia utilizó esas huellas para identificar en X imágenes generadas por IA que representaban a su clienta.
Margaret Mabie, abogada de la demandante, subrayó la diferencia respecto de otros casos de imágenes creadas por IA: «Pero aquí, dado que se puede asociar con la serie, sabemos que se trata de una víctima identificable que sigue viva y que era una niña real en la foto».
Demanda contra xAI y las salvaguardas de Grok
La acción judicial sostiene que xAI no aplicó protecciones estándar del sector frente al material de abuso sexual. Como resultado, según la demanda, el contenido generado por IA habría aparecido y circulado en X, anteriormente Twitter.
El litigio llega después de un periodo, a comienzos de este año, en el que las salvaguardas de Grok permitían pedir al chatbot, a través de X, que retirara ropa de fotografías y generara imágenes sexualizadas. Investigadores del Center for Countering Digital Hate estimaron que el bot creó millones de imágenes sexualizadas en semanas, incluidas miles que representaban a menores.
- ▪️ La demanda atribuye a Grok la generación de nuevas imágenes a partir de material de abuso ya existente.
- ▪️ Los abogados acusan a xAI de incorporar posteriormente esas imágenes a sus conjuntos de datos.
- ▪️ El procedimiento contempla una posible clase de «al menos miles de menores».
La posición conocida de Musk y las acciones de xAI
Elon Musk negó en enero conocer que Grok hubiera producido «imágenes de menores desnudos». Sin embargo, a finales de agosto su empresa demandó a dos usuarios que afrontan cargos penales por presuntamente solicitar ese tipo de contenido.
xAI pretende que ambos hombres asuman los costes de las demandas presentadas por sus víctimas contra la compañía. Ni xAI ni SpaceX, que adquirió la empresa en febrero, respondieron a las solicitudes de comentarios sobre este nuevo caso.
Demanda contra xAI: el alcance para las víctimas
Para la demandante, el daño alegado no se limita a la difusión del material original. La creación automática de nuevas imágenes amplía un archivo que antes era finito y, según sus abogados, puede prolongar la exposición y la revictimización.
Mabie resumió ese riesgo en estos términos: «El temor ahora es que nuevos actos delictivos, nuevos comportamientos ofensivos y nuevas ideas sobre lo que se les puede hacer puedan crearse ahora utilizando IA. Pueden generar nuevos abusos».
xAI afronta numerosas demandas relacionadas con la creación y distribución de material de abuso sexual infantil. Esta Demanda contra xAI añade una cuestión concreta: si un modelo habría utilizado material ilegal identificable para generar contenido nuevo sobre una víctima real.
El contexto corporativo de la compañía
SpaceX salió a bolsa a principios de este año mediante una oferta pública inicial que valoró la empresa en alrededor de 1,7 billones de dólares. Durante un tiempo, esa operación convirtió a Musk en la única persona del mundo con un patrimonio de un billón de dólares, según el texto de origen.
El Centro Canadiense para la Protección de la Infancia declinó comentar el caso. La demanda, por ahora, recoge las alegaciones de la demandante y de sus abogados, sin una respuesta de xAI o SpaceX a esas acusaciones.
Demanda contra xAI: riesgos a vigilar
Para quien sigue a SpaceX, el punto central es que las acusaciones todavía deben ser examinadas judicialmente. La señal más relevante será si el proceso aporta pruebas que vinculen las imágenes identificadas mediante huellas digitales con los datos o los resultados generados por Grok.
También conviene vigilar si xAI detalla cambios verificables en sus salvaguardas y en la supervisión de contenido distribuido a través de X. Un refuerzo claro de controles podría limitar el riesgo operativo. Nuevas denuncias similares, en cambio, aumentarían la presión sobre la gestión y la reputación corporativa.
La variable financiera que falta por conocer es el posible coste económico de las reclamaciones, las defensas legales y las medidas correctivas. Sin esa información, resulta difícil cuantificar el impacto para la compañía matriz.
❓ ¿Podrán las empresas de IA demostrar que sus sistemas impiden tanto la generación como la reutilización de material ilegal cuando existen víctimas reales e identificables?
*Artículo de divulgación financiera redactado por el equipo de Tu Plan A: Bolsa y Trading by Fran Fialli.*
Ref. 3sep-bursatil
Este contenido es informacion economica de caracter divulgativo y no constituye una recomendacion de inversion ni asesoramiento financiero personalizado. Invertir conlleva riesgo de perdida del capital. Antes de tomar cualquier decision, contrasta la informacion y valora consultar con un asesor registrado.
