Meta difundió en sus plataformas anuncios de una aplicación que prometía generar imágenes de desnudos falsos de mujeres, y al menos uno de esos avisos usó la figura de una política estadounidense. Uno de los anuncios contenía un video pornográfico con un deepfake que reproducía con precisión el rostro de una legisladora, según lo reportado por Ars Technica.
El caso vuelve a exponer un problema recurrente en la publicidad de la compañía dueña de Facebook e Instagram: sus sistemas de revisión siguen dejando pasar avisos que promueven las llamadas apps nudify, herramientas que emplean inteligencia artificial para desvestir digitalmente a personas reales sin su consentimiento. Un deepfake es un contenido sintético —foto, audio o video— fabricado con IA para imitar de forma verosímil a alguien que nunca dijo o hizo lo que se muestra.
Un patrón que se repite
No es la primera vez que la moderación publicitaria de Meta falla en este terreno. La compañía ya había enfrentado señalamientos por una serie de fallos previos, incluida la circulación de anuncios con material de abuso sexual infantil generado por IA. Investigadores citados en el reporte también documentaron que la plataforma sigue publicando miles de anuncios de este tipo de aplicaciones pese a las prohibiciones vigentes.
En su propia normativa sobre explotación sexual y en sus estándares publicitarios, Meta prohíbe expresamente la promoción de servicios que produzcan imágenes íntimas no consentidas. La distancia entre esas reglas escritas y lo que efectivamente se cuela en el sistema de anuncios es el centro de la controversia.
Las mujeres, blanco principal
El fenómeno de la desnudez sintética afecta de manera desproporcionada a las mujeres, y las figuras públicas femeninas están entre las más expuestas. En mayo, la primera ministra italiana Giorgia Meloni fue víctima de una imagen manipulada con IA, un episodio dentro de una tendencia en la que las víctimas son mayoritariamente mujeres. En el Reino Unido, una diputada laborista demandó a la empresa de IA de Elon Musk por imágenes sexualizadas falsas.
Para las mujeres en política, el daño va más allá de lo personal: la circulación de estos contenidos funciona como una herramienta de acoso e intimidación que puede desalentar la participación pública. La verosimilitud creciente de estas falsificaciones complica además la tarea de distinguir lo real de lo fabricado, un desafío que también alcanza al público general y que abordamos en nuestra guía sobre cómo detectar imágenes hechas con IA.
Presión regulatoria en aumento
El marco legal empieza a moverse. En Estados Unidos se aprobó la conocida como Take It Down Act, orientada a facilitar la eliminación de imágenes íntimas no consentidas, y autoridades de San Francisco enviaron una notificación de cese y desista a Apple y Google para que retiren estas apps de sus tiendas.
La responsabilidad de las plataformas queda en el centro del debate. Meta obtiene ingresos por los anuncios que muestra, lo que agrega un componente incómodo: la compañía cobra por difundir avisos de servicios que sus propias reglas prohíben. Mientras la revisión automatizada siga dejando estos casos sin filtrar, la brecha entre la política declarada y la práctica seguirá alimentando la presión de reguladores y víctimas.
