Un grupo de menores presentó una demanda ampliada contra X y su filial de inteligencia artificial, xAI, a las que acusa de permitir la creación masiva de material de abuso sexual infantil mediante Grok, el generador de imágenes y chatbot de la compañía. Según la demanda enmendada, un solo usuario habría producido cerca de 7.000 imágenes de contenido sexual con menores, mientras la empresa reportó a las autoridades apenas un caso vinculado a una indicación sobre una violación en grupo.

La acción judicial, presentada en Estados Unidos por varias niñas identificadas como demandantes anónimas, sostiene que la plataforma incumplió sus obligaciones legales de detección y denuncia de material de explotación infantil (conocido por sus siglas en inglés como CSAM). El documento describe a X como una empresa que habría actuado con negligencia y que, en la práctica, terminó amparando a usuarios que abusaron de sus herramientas.

Qué alega la demanda

El punto central del reclamo es la enorme desproporción entre el volumen de contenido presuntamente generado y lo que la compañía comunicó a los organismos de protección. Las demandantes argumentan que los sistemas de moderación y los filtros de seguridad de Grok resultaron insuficientes para frenar la producción de imágenes ilegales, y que la empresa no derivó esos casos al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC), la entidad que en Estados Unidos centraliza los reportes de este tipo de material.

La cifra de 7.000 imágenes atribuidas a un único usuario, frente a un solo reporte formal, es el eje de la acusación de que la plataforma habría minimizado o ignorado la gravedad del problema. La demanda enmarca esa conducta como un patrón, no como un hecho aislado, y suma nuevas demandantes a un litigio que ya estaba en curso.

El contexto de la IA generativa y el abuso infantil

Los generadores de imágenes por IA —modelos capaces de crear fotografías realistas a partir de instrucciones de texto— abrieron un frente inédito para la protección de menores. A diferencia del material que circula en redes tradicionales, estas herramientas permiten fabricar contenido nuevo bajo demanda, lo que complica la detección basada en bases de datos de imágenes ya conocidas.

El NCMEC ha advertido sobre el crecimiento de reportes vinculados a contenido generado por inteligencia artificial. En su balance de datos de 2025, la organización señaló el aumento sostenido de denuncias y la presión que este material representa para los equipos de análisis. Las plataformas que operan modelos generativos están obligadas por ley en Estados Unidos a reportar el material de abuso que detecten, aunque el alcance de esa obligación para contenido sintético sigue siendo objeto de debate legal.

Grok bajo escrutinio

Grok, integrado en la red social X, ha sido cuestionado en varias ocasiones por sus controles de seguridad más laxos en comparación con competidores como los productos de OpenAI o Google. La empresa de Elon Musk ha promovido el chatbot como una alternativa con menos restricciones, un enfoque que ahora aparece en el centro de un litigio con acusaciones especialmente graves.

La demanda busca responsabilizar a X y xAI por los daños sufridos por las menores y podría sentar un precedente sobre hasta dónde llega la responsabilidad de una empresa de IA cuando sus herramientas se usan para producir contenido ilegal. El caso llega en un momento en que legisladores de Estados Unidos y Europa discuten normas más estrictas para exigir a las plataformas mecanismos de detección proactiva.

Por ahora, el proceso judicial recién comienza y las acusaciones deberán probarse ante un tribunal. Su desenlace se seguirá de cerca como termómetro de la exposición legal que enfrentan las compañías detrás de los modelos generativos más permisivos.