Edge0 AI a publié Edge0-145B en open source, un modèle de 145 milliards de paramètres que l’entreprise présente comme le premier modèle IA open source sur appareil de cette taille. Les poids sont arrivés sur Hugging Face le 11 novembre, la version GitHub a suivi le même jour, et le billet de blog officiel est paru le 12 novembre. Edge0-120B l’accompagnait, ainsi que le framework d’inférence unifié et les outils de déploiement de l’entreprise.

C’est l’architecture qui rend cette taille exploitable : Edge0-145B est un modèle latent sparse mixture-of-experts de 145 milliards de paramètres au total, mais seulement 10,12 milliards actifs par token, répartis sur 48 couches avec 512 experts par couche. Il dispose d’une fenêtre de contexte de 256 000 tokens et a été entraîné nativement en 4 bits. Les builds publiées sont compactes pour cette catégorie — la build Q3_K pèse 40,81 Gio et la build NVFP4 47,79 Gio — et selon la fiche du modèle, sur une seule RTX 5090, la build Q3_K décode à 121,2 tokens par seconde, contre 98,3 tokens par seconde pour NVFP4.

Sur les ordinateurs portables, les chiffres sont tout aussi frappants : selon le blog de l’entreprise, un MacBook Pro fait tourner le modèle avec 29 Go de mémoire de pointe, plus de 1 100 tokens par seconde en pré-remplissage et plus de 80 tokens par seconde en décodage, pour environ 120 W de puissance typique, avec un contexte de 128 000 à 256 000 tokens à pratiquement la même vitesse. Le support dès le premier jour couvre macOS, Windows et Linux sur les ordinateurs portables Apple série M et les GPU RTX Spark, 4090 et 5090. Les benchmarks de la page du modèle — terminal-bench 2.1 à 86,5 contre 78,2 pour Claude Opus 4.6 (Max), GPQA-Diamond à 90,4 et deepswe 1.1 à 64,6 — sont des chiffres du fournisseur : considérez-les comme des affirmations tant que des tests indépendants ne les ont pas reproduits.

L’adoption est le premier signal à surveiller : au 14 novembre, les deux builds Edge0-145B totalisaient 61 192 téléchargements sur Hugging Face et le dépôt GitHub comptait 11 379 étoiles. L’argument est simple — pas de frais de tokens cloud ni d’API, les données restent sur votre propre ordinateur et les fonctionnalités essentielles continuent de fonctionner hors ligne — même si le matériel et l’électricité coûtent toujours de l’argent. À titre de comparaison, le précédent Edge0-35B visait les téléphones avec moins de 2,5 Go, alors qu’avant septembre 2026, la plupart des modèles sur appareil restaient sous les 10 milliards de paramètres. Des poids ouverts signifient aussi que vous pouvez épingler des versions, auditer les fichiers du modèle et l’exécuter sur une infrastructure que vous contrôlez.

Sources