Meta habría llevado a cabo una operación encubierta para evaluar la seguridad de los chatbots de sus competidores, contratando a cientos de personas para que se hicieran pasar por menores de edad y enviaran mensajes relacionados con suicidio, contenido sexual y consumo de drogas. Según la información, en una sola ronda de pruebas se enviaron más de 45.000 de estos mensajes a los asistentes de OpenAI, Google y Character.AI, sin que estas empresas tuvieran conocimiento de lo que estaba ocurriendo.

El caso, reportado por la revista WIRED, expone una práctica poco habitual dentro de la industria: una compañía probando de forma clandestina los sistemas de seguridad de sus rivales mediante escenarios de alto riesgo diseñados desde la perspectiva de un adolescente en crisis.

En qué consistió la operación

De acuerdo con lo trascendido, Meta empleó a contratistas que asumieron identidades de personas menores de edad para interactuar con ChatGPT (OpenAI), Gemini (Google) y los personajes conversacionales de Character.AI. El objetivo habría sido observar cómo respondían estos modelos de lenguaje —sistemas de inteligencia artificial entrenados para generar texto a partir de las indicaciones del usuario— ante temas especialmente sensibles.

Los mensajes, conocidos en el sector como prompts (las instrucciones o preguntas que recibe el chatbot), abordaban situaciones de autolesión, suicidio, sexualidad y drogas. La magnitud de la operación, con decenas de miles de interacciones en una sola tanda, sugiere un esfuerzo sistemático de recopilación de datos sobre el comportamiento de los modelos ajenos frente a usuarios vulnerables.

Un contexto de presión sobre los chatbots y los menores

La revelación llega en un momento de creciente escrutinio sobre cómo los asistentes conversacionales gestionan a usuarios jóvenes y en situaciones de riesgo. En los últimos meses, varias compañías han enfrentado cuestionamientos y demandas vinculadas a la seguridad de sus sistemas. Entre los casos que han marcado el debate figura el de Zane Shamblin, un joven de 23 años que murió por suicidio, episodio que derivó en acciones legales contra OpenAI.

La seguridad de los menores se ha convertido en uno de los frentes más delicados para las empresas de IA. Plataformas como Character.AI —que permite conversar con personajes generados por inteligencia artificial— y los grandes asistentes de propósito general han implementado filtros, límites de edad y mecanismos de derivación a líneas de ayuda. Sin embargo, los críticos sostienen que esas barreras siguen siendo inconsistentes.

Implicaciones para la industria

Que una empresa del tamaño de Meta haya sometido a sus competidores a este tipo de pruebas sin avisarles plantea preguntas tanto éticas como competitivas. Por un lado, el método permite detectar fallas reales en los sistemas de moderación de contenido. Por otro, el hecho de simular ser menores y generar miles de mensajes sobre suicidio o drogas abre un debate sobre los límites legítimos de la investigación de seguridad.

Para las compañías evaluadas, el episodio supone una doble exposición: por la posibilidad de que sus modelos hayan respondido de forma inadecuada en alguno de esos escenarios, y por haber sido objeto de una operación de la que no tenían conocimiento. Hasta el momento, no han trascendido respuestas oficiales de OpenAI, Google o Character.AI sobre el alcance de las pruebas.

El caso refleja la tensión que define a la industria de la IA en 2026: la urgencia por demostrar que los chatbots son seguros para los públicos más vulnerables choca con la falta de estándares comunes y con prácticas de evaluación que avanzan más rápido que las reglas que deberían encuadrarlas.