La empresa Cactus Compute presentó Needle 2, un modelo de inteligencia artificial abierto y diminuto, diseñado para ejecutar tareas de llamada a herramientas, control de dispositivos y extracción de datos estructurados. Con apenas 45 millones de parámetros, el modelo se distribuye como un único archivo ejecutable de 14 megabytes y completa una sesión de trabajo usando cerca de 28 megabytes de memoria RAM, según el material publicado por la compañía.

La cifra llama la atención por lo baja. Los modelos de lenguaje que dominan la conversación pública se cuentan en miles de millones de parámetros y exigen tarjetas gráficas potentes para funcionar. Needle 2 apunta justo en la dirección contraria: correr en hardware modesto, sin unidad de procesamiento gráfico (GPU) ni acelerador neuronal dedicado (NPU).

Qué hace y por qué su tamaño importa

El foco de Needle 2 no es conversar ni redactar textos largos, sino algo más acotado y práctico: el llamado tool calling, es decir, la capacidad de un modelo para decidir qué función o herramienta externa invocar y con qué datos. Es una pieza central en los sistemas de agentes de IA, esos programas que ejecutan tareas encadenadas en nombre del usuario, como consultar una API, rellenar un formulario o extraer campos concretos de un documento.

Cactus Compute afirma que Needle 2 encabeza las dos divisiones del banco de pruebas Seal-Tools, un conjunto de evaluaciones enfocado precisamente en la llamada a herramientas. Que un modelo tan liviano lidere ese tipo de medición sugiere que, para tareas especializadas y bien delimitadas, el tamaño masivo no siempre es una ventaja.

El modelo se ofrece de forma abierta. Su código está disponible en GitHub y los pesos pueden descargarse desde su ficha en Hugging Face, lo que permite a desarrolladores integrarlo en sus propios productos y auditar su funcionamiento.

La apuesta por la IA en el dispositivo

Needle 2 se inscribe en una tendencia creciente: llevar la IA directamente al aparato del usuario en lugar de depender de servidores en la nube. Un modelo que ocupa 14 MB y corre en 28 MB de memoria puede alojarse en teléfonos de gama baja, sensores, electrodomésticos o dispositivos industriales sin conexión permanente a internet.

Ese enfoque, conocido como IA en el borde o edge, trae ventajas concretas. Los datos no salen del equipo, lo que reduce riesgos de privacidad; la respuesta es inmediata porque no hay ida y vuelta con un centro de datos; y el costo operativo cae, ya que no se paga por cada consulta a un proveedor externo.

Otras empresas exploran caminos parecidos. Recientemente, webAI presentó modelos capaces de correr en un teléfono, y varios equipos investigan cómo entrenar modelos pequeños sin gastar fortunas en cómputo. La consigna compartida es hacer más con menos.

Un modelo especializado, no un todoterreno

Conviene entender el alcance real de una herramienta así. Needle 2 no reemplaza a un asistente conversacional como ChatGPT ni pretende responder preguntas abiertas con matices. Es un componente especializado, pensado para que un sistema más grande delegue en él tareas estructuradas y repetitivas de forma barata y veloz.

Su llegada refuerza la idea de que el futuro de la IA aplicada no pasa solo por modelos cada vez más grandes, sino también por piezas eficientes que resuelvan problemas específicos donde el hardware es limitado. Para las empresas que construyen productos con agentes, disponer de un motor de llamada a herramientas que quepa en pocos megabytes abre opciones que antes exigían infraestructura costosa.