Demis Hassabis, director ejecutivo de Google DeepMind, publicó una propuesta detallada sobre cómo gobernar la inteligencia artificial avanzada. Su idea central es crear en Estados Unidos un organismo de estándares inspirado en FINRA, el regulador privado que supervisa a la industria financiera, encargado de fijar protocolos de evaluación para los modelos más potentes y, llegado el caso, coordinar una desaceleración del desarrollo.
El planteo llega en un momento en que las capacidades de los sistemas de IA avanzan más rápido de lo que tardan en escribirse las reglas para contenerlos. Hassabis resume su postura con una frase que evita tanto el catastrofismo como la euforia: «nadie en el mundo sabe qué pasará después», por lo que su «optimismo cauteloso» implica levantar barandillas de seguridad ahora y no cuando ya sea tarde.
Qué propone exactamente
El modelo FINRA es clave para entender la propuesta. La Financial Industry Regulatory Authority no es una agencia estatal, sino una organización autorregulada por la propia industria que aun así dicta normas de cumplimiento obligatorio y sanciona a quienes las incumplen. Trasladada a la IA, la idea sería un cuerpo que desarrolle y estandarice pruebas de evaluación para los llamados modelos de frontera: los sistemas más grandes y capaces, entrenados con enormes cantidades de datos y poder de cómputo.
Ese organismo tendría además una atribución poco habitual en las propuestas regulatorias: la capacidad de coordinar una pausa o desaceleración del desarrollo si las evaluaciones detectaran riesgos serios. Según la publicación de Hassabis en X, el esquema busca un punto intermedio entre dejar la industria librada a su propio criterio y una regulación estatal rígida que podría quedar desactualizada frente al ritmo técnico.
Quiénes quedarían fuera
Un detalle relevante es el alcance acotado de la propuesta. Las empresas emergentes y los modelos de investigación quedarían exentos del marco, que apuntaría solo a los sistemas de frontera desarrollados por las grandes compañías. La lógica es no ahogar la innovación temprana ni el trabajo académico con requisitos pensados para actores con recursos mucho mayores.
Esa distinción también responde a una crítica frecuente: que las reglas de seguridad más estrictas terminan beneficiando a los gigantes ya establecidos, capaces de absorber los costos de cumplimiento, y levantan barreras para los competidores más chicos. Al excluir a startups y laboratorios de investigación, Hassabis intenta esquivar ese reproche.
Un debate que no es nuevo
La discusión sobre cómo y quién debe supervisar la IA avanzada lleva años sin resolverse. Los principales laboratorios —DeepMind entre ellos— firmaron compromisos voluntarios de seguridad, pero esos acuerdos carecen de mecanismos de control externos y de consecuencias reales por incumplirlos. La autorregulación pura genera dudas sobre su eficacia cuando las mismas empresas que compiten por lanzar productos son las que se fiscalizan a sí mismas.
La propuesta de Hassabis se inscribe en esa tensión de fondo. Un modelo tipo FINRA intenta combinar la agilidad del sector privado con reglas exigibles, aunque su viabilidad dependería de la voluntad política en Estados Unidos y de que las propias tecnológicas acepten someterse a evaluaciones que podrían frenar sus planes. Quien quiera entender por qué este tipo de debates ganó urgencia puede repasar las ventajas y los riesgos de la tecnología que hoy está en el centro de la disputa.
Por ahora se trata de una propuesta de un ejecutivo influyente, no de una iniciativa legislativa. Pero viniendo de quien dirige uno de los laboratorios que empujan la propia frontera que quiere regular, la señal es difícil de ignorar.
