Los modelos de lenguaje no escriben con un estilo predecible porque sean incapaces de hacerlo mejor, sino porque el proceso al que se los somete después de entrenarlos recorta su capacidad expresiva. Esa es la tesis que defiende Bradley Emi, director de tecnología de la empresa de detección de textos Pangram, en un análisis publicado en el blog de la compañía y reseñado por The Decoder.

El punto central es contraintuitivo. Se suele asumir que la voz uniforme y algo acartonada de herramientas como ChatGPT refleja una limitación técnica del modelo. Emi sostiene lo contrario: la variedad estilística existe en el sistema, pero queda comprimida por las etapas que vienen después del entrenamiento inicial.

Qué son los ajustes que estrechan la voz

Un modelo de lenguaje se construye en fases. Primero está el modelo base, entrenado con enormes cantidades de texto para predecir la siguiente palabra. Después llega el llamado post-entrenamiento, que incluye el ajuste con retroalimentación humana y las barreras de seguridad (los guardrails): reglas y preferencias que orientan al modelo hacia respuestas útiles, corteses y consideradas seguras.

Según Emi, esas capas de refinamiento son las que aplanan la escritura. Los modelos base, sin esas restricciones, ya producen texto con mucha más diversidad de registro, ritmo y vocabulario. Al pulir el comportamiento para que el asistente resulte predecible y evite riesgos, se sacrifica buena parte de esa riqueza. El resultado es una prosa reconocible, con estructuras repetidas y giros recurrentes que un lector atento —o un detector automático— aprende a identificar.

Ese rasgo tiene un lado práctico para Pangram, cuyo negocio consiste precisamente en distinguir texto humano de texto generado por máquinas. Si los modelos comerciales convergen hacia patrones similares, detectarlos se vuelve más viable. La misma idea la comparte el fundador de la empresa, Max Spero, en una publicación en X.

Por qué importa más allá del debate técnico

La discusión toca un terreno sensible: la fiabilidad de los detectores de texto generado por IA. Universidades, medios y empresas usan estas herramientas para señalar contenido automatizado, con consecuencias reales para estudiantes y trabajadores. Si la detectabilidad depende menos de una huella inevitable del modelo y más de decisiones de diseño de cada compañía, entonces cualquier cambio en el post-entrenamiento podría alterar de golpe la eficacia de esos sistemas.

El planteo también ayuda a explicar una queja frecuente entre quienes usan estas herramientas para redactar: la sensación de que el texto suena «a IA». Ese tono homogéneo no sería un techo insalvable de la tecnología, sino un efecto de cómo se la afina para el uso masivo. Para quien quiera reconocer esas señales, existen indicios y herramientas que conviene conocer.

En la región, el asunto no es menor. Muchas instituciones educativas latinoamericanas han empezado a apoyarse en detectores para evaluar trabajos, a menudo sin entender sus márgenes de error ni el sesgo que pueden tener con textos escritos por hablantes no nativos de inglés. Un debate como el que abre Emi sugiere prudencia: estas herramientas miden un blanco móvil, no una verdad fija.

Queda una tensión de fondo sin resolver. Las mismas restricciones que hacen a los modelos más seguros y previsibles son las que delatan su origen. Si los desarrolladores decidieran devolverles amplitud expresiva para que escriban de forma más humana, podrían volverse a la vez más difíciles de detectar.