La empresa china Meituan lanzó LongCat-2.0, un modelo de lenguaje de gran tamaño y de pesos abiertos que suma 1,6 billones de parámetros y que puede procesar hasta un millón de tokens de contexto de forma nativa. La compañía, conocida en China por su plataforma de entrega de comida y servicios locales, publicó los pesos del modelo y su documentación técnica, según el anuncio oficial en el blog de LongCat.

El modelo utiliza una arquitectura de mezcla de expertos (Mixture-of-Experts o MoE), un diseño en el que solo se activa una fracción de los parámetros totales para procesar cada token. En este caso, aunque el modelo contiene 1,6 billones de parámetros, activa alrededor de 48.000 millones por token. Esa técnica permite entrenar modelos muy grandes sin que el costo de cómputo en cada consulta crezca en la misma proporción.

Qué aporta el contexto de un millón de tokens

El elemento más llamativo de LongCat-2.0 es su ventana de contexto nativa de un millón de tokens. El contexto es la cantidad de texto que un modelo puede tener «a la vista» al mismo tiempo para razonar o responder. Una ventana de ese tamaño equivale, en la práctica, a procesar libros enteros, extensos repositorios de código o grandes volúmenes de documentación en una sola operación, sin fragmentar la información.

Para sostener contextos tan largos sin disparar el costo, Meituan incorporó un mecanismo que denomina LongCat Sparse Attention (atención dispersa). La atención es el componente que decide qué partes del texto son relevantes en cada paso; las variantes dispersas reducen el cálculo al concentrarse en un subconjunto de conexiones en lugar de comparar todos los tokens entre sí, lo que abarata el manejo de secuencias muy largas.

Entrenamiento con hardware doméstico

Según la información difundida por la compañía, tanto el entrenamiento como el servicio del modelo se ejecutaron de extremo a extremo sobre «superpods» de circuitos integrados de aplicación específica (ASIC) de fabricación nacional china. Ese detalle es relevante en el contexto de las restricciones estadounidenses a la exportación de chips avanzados hacia China, que han empujado a las empresas del país a desarrollar y adoptar aceleradores propios para entrenar sistemas de gran escala.

Meituan puso a disposición los pesos del modelo en Hugging Face y el código asociado en su repositorio de GitHub. La compañía también ofrece acceso mediante una interfaz de programación (API) para quienes prefieran consumir el modelo sin desplegarlo por cuenta propia.

Cifras que aún faltan verificar

Los resultados en pruebas de rendimiento fueron reportados por la propia Meituan, por lo que conviene tomarlos con cautela hasta que evaluaciones independientes los repliquen. Es una advertencia habitual con los lanzamientos de modelos abiertos: las cifras de benchmarks las publica el desarrollador y no siempre reflejan el comportamiento en tareas reales o en condiciones distintas a las de la prueba.

El lanzamiento se suma a una seguidilla de modelos de gran escala provenientes de empresas chinas que apuestan por la estrategia de pesos abiertos, en la que el código y los parámetros quedan disponibles para descarga y modificación. Esa vía contrasta con el modelo cerrado de compañías como OpenAI y ha ganado terreno como forma de ampliar la adopción y atraer a la comunidad de desarrolladores.

La verdadera medida de LongCat-2.0 llegará cuando desarrolladores externos pongan a prueba su contexto largo y su eficiencia en escenarios concretos, más allá de las cifras que difunde la empresa.