La empresa Interfaze publicó como código abierto diffusion-gemma-asr-small, un modelo de reconocimiento automático del habla (ASR, por sus siglas en inglés) que convierte audio en texto usando un enfoque de difusión en lugar del método autorregresivo tradicional. La compañía difundió los pesos del modelo en Hugging Face junto con los detalles técnicos en su blog oficial.

El reconocimiento automático del habla es la tecnología que transcribe voz humana en texto escrito. La mayoría de los sistemas actuales trabajan de forma autorregresiva: generan la transcripción palabra por palabra, prediciendo cada token a partir de los anteriores. Ese diseño hace que el costo de cómputo crezca con la longitud de la transcripción.

Qué cambia con el enfoque de difusión

Los modelos de difusión operan de otra manera. Parten de una salida ruidosa y la refinan en pasos sucesivos —un proceso llamado «denoising» o eliminación de ruido— hasta obtener el resultado final. Es la misma familia de técnicas detrás de los generadores de imágenes, aquí aplicada a texto.

La consecuencia práctica es directa: en diffusion-gemma-asr-small el costo de transcribir queda determinado por la cantidad de pasos de refinamiento, no por cuántas palabras tenga el audio. Un decodificador de «denoising paralelo» procesa la secuencia de forma simultánea en cada paso, en lugar de avanzar token por token.

Un adaptador pequeño sobre un modelo congelado

Interfaze no entrenó el sistema desde cero. Tomó DiffusionGemma, un modelo de Google basado en difusión, y lo mantuvo congelado —es decir, sin modificar sus parámetros originales—. Sobre esa base añadió la capacidad de procesar audio mediante un adaptador de apenas unos 42 millones de parámetros, según los detalles técnicos publicados por la compañía.

Un adaptador es un módulo ligero que se agrega a un modelo grande ya entrenado para darle una nueva habilidad sin volver a entrenar todo el sistema. Ese diseño reduce de forma considerable los recursos necesarios para el desarrollo. En este caso, un único adaptador cubre los seis idiomas que el modelo puede transcribir.

Los pesos del modelo están disponibles públicamente en Hugging Face, lo que permite a desarrolladores e investigadores descargarlo, probarlo y adaptarlo a sus propios casos de uso.

Por qué importa

El terreno del reconocimiento de voz ha estado dominado por arquitecturas autorregresivas, con Whisper de OpenAI como referencia más conocida en el campo abierto. La llegada de un modelo ASR basado en difusión ofrece una vía alternativa que podría resultar interesante para escenarios donde la latencia y el control del costo por transcripción sean prioritarios.

Interfaze describe su lanzamiento como el primer modelo de ASR por difusión de código abierto. El calificativo «small» en el nombre sugiere que se trata de una versión compacta, orientada a demostrar el enfoque y a servir de punto de partida para trabajos posteriores.

Queda por ver cómo se comporta en precisión frente a los sistemas autorregresivos consolidados y en qué medida el enfoque de difusión escala a más idiomas y a audios más largos. La disponibilidad abierta de los pesos facilita que la comunidad ponga esas preguntas a prueba.