AitopkitPrismML amplió su familia Bonsai 2 el 15 de octubre de 2026 con tres nuevos modelos ternarios —2B, 4B y 9B— basados en Qwen3.5. Junto al buque insignia 27B lanzado en septiembre, la familia abarca ahora cuatro tamaños, de 2B a 27B parámetros, todos orientados a un solo problema: poner agentes de IA realmente capaces dentro de los límites de memoria y energía de los dispositivos cotidianos.
El truco es una representación de pesos ternaria: en lugar de números de precisión completa, cada peso se almacena como uno de tres valores —−1, 0 o +1—. Eso reduce el tamaño a 0,43 GB para el modelo 2B, 0,95 GB para el 4B y 2,00 GB para el 9B —más de 9 veces más pequeños que sus equivalentes de precisión completa, según PrismML. Un modelo de 9.000 millones de parámetros que cabe en 2 GB de memoria de móvil es una opción genuinamente nueva para desarrolladores móviles.
En capacidades, no son simples chatbots. PrismML dice que los nuevos modelos combinan razonamiento, comprensión visual y llamada a herramientas —el trío necesario para flujos agénticos locales: interpretar una petición, mirar texto o contexto visual y encadenar secuencias cortas de acciones a través de herramientas de aplicación. El hardware objetivo es explícito: PC, móviles, gafas inteligentes y wearables. Y son gratuitos bajo la licencia Apache 2.0, disponibles desde el 15 de octubre: puedes descargarlos y distribuirlos comercialmente sin una conversación de licencias.
Las cifras de rendimiento necesitan el asterisco de siempre: las aporta la empresa. En 19 benchmarks, PrismML dice que los modelos igualan o superan a sus equivalentes de precisión completa en programación, matemáticas y seguimiento de instrucciones, y conservan más del 90 % de las puntuaciones base en visión, trabajo agéntico, llamada a herramientas y conocimiento/razonamiento. Lecturas independientes de la detallada tabla de PrismML muestran que los tamaños pequeños pierden más terreno —el modelo 2B conservaría alrededor del 83 % en conocimiento y razonamiento y el 89 % en visión frente a su base Qwen3.5—. Real, pero no sin pérdidas: haz benchmarks antes de depender de ello.
Las velocidades son la otra mitad de la propuesta. PrismML reporta hasta 276 tokens/segundo para el 2B y 124 para el 9B en una RTX 4090 o un MacBook M5 Pro y —más interesante para la historia móvil— hasta 120 toks/s (2B) y 34 toks/s (9B) en un iPhone 18 Pro Max, con soporte para llama.cpp y MLX. A 34 tokens por segundo, el 9B es utilizable para trabajo real de asistente en el dispositivo.
Junto con los portátiles RTX Spark de NVIDIA que llegan la misma semana, la dirección está clara: la inferencia se está moviendo fuera de la nube. Para desarrolladores que prototipan agentes locales en hardware barato, Bonsai 2 es actualmente la opción gratuita más sólida para probar primero.