OpenAI desarrolló un modelo interno, llamado GPT-Red, cuyo único trabajo es buscar la forma de romper las defensas de sus propios sistemas. Según la compañía, la herramienta logra ejecutar ataques exitosos en el 84 por ciento de los escenarios de prueba, muy por encima del 13 por ciento que consiguen los equipos humanos dedicados a la misma tarea. El objetivo es detectar fallas de seguridad antes de que lo hagan actores maliciosos.

La técnica se apoya en el llamado self-play o autojuego, un método de entrenamiento en el que un modelo aprende enfrentándose a sí mismo de forma repetida, sin depender de un guion humano. En este caso, GPT-Red genera y refina miles de intentos de ataque contra otros modelos de la empresa, aprendiendo qué estrategias funcionan y cuáles fracasan. Los hallazgos se reinyectan luego en el proceso de hardening, es decir, el endurecimiento de las defensas de sistemas como GPT-5.6 Sol.

Qué es un equipo rojo y por qué importa

En seguridad informática, un equipo rojo (o red team) es un grupo que simula ser el atacante para poner a prueba las defensas de un sistema. En el terreno de la inteligencia artificial, esos equipos intentan que un modelo genere contenido prohibido, revele instrucciones internas o ejecute acciones no autorizadas, con el fin de tapar esos agujeros antes del lanzamiento.

El problema es de escala. Un puñado de especialistas humanos solo puede probar una fracción de los caminos posibles, y hacerlo lleva tiempo. Automatizar esa labor con un modelo permite recorrer un espacio mucho más amplio de vulnerabilidades en menos horas, y hacerlo de forma continua a medida que los sistemas cambian. La diferencia entre 13 y 84 por ciento sugiere que la máquina no solo va más rápido, sino que encuentra vías que a las personas se les escapan.

Seguridad reforzada, pero también una carrera de doble filo

OpenAI explica el enfoque en su publicación oficial sobre GPT-Red, donde presenta el sistema como parte de un ciclo de automejora: la IA ataca, se identifican las debilidades y esas lecciones sirven para blindar la siguiente versión. El resultado, según la empresa, son modelos más resistentes a intentos de manipulación conocidos como jailbreaks, las técnicas que buscan sortear las restricciones de seguridad de un asistente.

La estrategia tiene un costado inevitable. La misma capacidad que permite descubrir fallas para corregirlas es, en esencia, una máquina de generar ataques eficaces. OpenAI lo mantiene como herramienta interna, pero el episodio ilustra una tensión de fondo en el sector: los métodos que hacen más seguros a los modelos son también los que revelan hasta qué punto pueden ser vulnerados. Quien domine esas técnicas de ataque automatizado tendrá una ventaja considerable, para bien o para mal.

El anuncio llega en un momento en que la seguridad de los sistemas de IA dejó de ser un tema de nicho. A medida que los modelos ganan autonomía y se integran en tareas sensibles, cada nueva vulnerabilidad tiene consecuencias más concretas. Para entender por qué estas medidas se volvieron centrales conviene repasar las ventajas y los riesgos que trae la tecnología cuando se despliega a gran escala.

Por ahora, OpenAI no informó si planea abrir GPT-Red o compartir sus resultados con otros laboratorios. La cifra, sin embargo, deja una señal clara: en la tarea de encontrar los puntos débiles de una IA, otra IA ya lo hace mejor que sus creadores humanos.