Edge0 AI ha liberado el código de Edge0-145B, un modelo de 145 000 millones de parámetros que la empresa describe como el primer modelo de IA de código abierto en el dispositivo de ese tamaño. Los pesos llegaron a Hugging Face el 11 de noviembre, la publicación en GitHub llegó el mismo día, y la entrada oficial del blog llegó el 12 de noviembre. Junto a él llegaron Edge0-120B y el marco unificado de inferencia y las herramientas de despliegue de la empresa.

La arquitectura es lo que hace práctico el tamaño: Edge0-145B es un modelo latente de mezcla dispersa de expertos con 145 000 millones de parámetros totales pero solo 10 120 millones activos por token, en 48 capas con 512 expertos por capa. Tiene una ventana de contexto de 256 000 tokens y se entrenó de forma nativa en 4 bits. Las versiones publicadas son compactas para su clase — la versión Q3_K pesa 40,81 GiB y la NVFP4 47,79 GiB —, y según la tarjeta del modelo, en una sola RTX 5090 la versión Q3_K decodifica a 121,2 tokens por segundo, mientras que NVFP4 corre a 98,3 tokens por segundo.

En portátiles los números también son llamativos: según el blog de la empresa, un MacBook Pro ejecuta el modelo con 29 GB de memoria máxima, más de 1 100 tokens por segundo de prellenado y más de 80 tokens por segundo de decodificación, con unos 120 W de potencia típica, con contexto de 128 000–256 000 tokens a prácticamente la misma velocidad. El soporte desde el primer día cubre macOS, Windows y Linux en portátiles Apple serie M y GPU RTX Spark, 4090 y 5090. Los benchmarks de la página del modelo — terminal-bench 2.1 con 86,5 frente a 78,2 de Claude Opus 4.6 (Max), GPQA-Diamond con 90,4 y deepswe 1.1 con 64,6 — son cifras del proveedor, así que tómalos como afirmaciones hasta que pruebas independientes los reproduzcan.

La adopción es la primera señal: para el 14 de noviembre, las dos versiones de Edge0-145B sumaban 61 192 descargas combinadas en Hugging Face y el repositorio de GitHub tenía 11 379 estrellas. La propuesta es sencilla: sin tarifas de tokens en la nube ni de API, los datos se quedan en tu propio ordenador, y las funciones principales siguen funcionando sin conexión, aunque el hardware y la electricidad siguen costando dinero. Para ponerlo en contexto, el anterior Edge0-35B apuntaba a teléfonos de menos de 2,5 GB, mientras que antes de septiembre de 2026 la mayoría de los modelos en el dispositivo se quedaban por debajo de los 10 000 millones de parámetros. Los pesos abiertos también significan que puedes fijar versiones, auditar los archivos del modelo y ejecutar en infraestructura que tú controlas.

Fuentes