Strata AI est un moteur open source (licence MIT) qui fait tourner Qwen3.8-Flash-Next, un modèle de 125 milliards de paramètres, sur un PC de gamer. Il demande une carte NVIDIA ou AMD avec 12 Go de VRAM, au moins 32 Go de RAM et environ 80 Go de disque. Tout reste en local.
Le projet a fait du bruit début octobre 2026. Il a atteint la page d’accueil de Hacker News, et son dépôt GitHub dépasse déjà 22 000 étoiles. Pourtant, presque rien n’existe en français. Voici ce qu’il faut savoir avant de l’installer.
Strata AI s’adresse aux utilisateurs qui veulent exécuter localement un très grand modèle IA sur Windows ou Linux. Pour la simplicité et le choix de modèles, Ollama reste plus adapté à la plupart des utilisateurs.
Qu’est-ce que Strata AI ?
Strata est un moteur d’inférence. Il ne crée pas de modèle : il fait tourner un modèle existant. Son auteur, Niko1221, le publie sur GitHub avec une installation en un clic pour Windows et Linux. Depuis la version 0.1.16 du 28 septembre 2026, le code est sous licence MIT.
Le modèle vient de l’équipe Qwen. Qwen3.8-Flash-Next compte 125 milliards de paramètres, mais seulement 6 milliards sont actifs par token. Il lit les images, écrit du code et appelle des outils. Sa licence, la Qwen Community License 1.0, est distincte de celle de Strata. Il faut donc la lire avant tout usage commercial.
Si vous débutez avec les modèles locaux, notre guide pour installer une IA locale gratuitement et hors ligne explique les bases avant de passer à Strata.
Comment Strata AI fait-il tenir 125 milliards de paramètres sur une carte graphique ?
Le modèle fonctionne en « mixture of experts ». Il contient 48 couches de 512 experts, soit 24 576 petits spécialistes. Pour chaque token, seuls 10 d’entre eux travaillent, plus un expert partagé. Strata exploite ce détail en répartissant le travail sur tout le PC :
- la carte graphique garde les experts les plus sollicités ;
- la RAM les contient tous ;
- le processeur calcule ceux qui ne sont pas sur la carte ;
- le SSD stocke une grande table de correspondance.
Strata ajoute aussi un décodage spéculatif. Un petit assistant devine les prochains tokens. Le gros modèle les vérifie d’un seul coup. La réponse reste la même, mais elle arrive 1,6 à 1,8 fois plus vite, selon les auteurs.
Quel matériel faut-il pour faire tourner Strata AI ?
- Carte graphique : NVIDIA GeForce RTX série 20, 30, 40 ou 50, ou une Radeon compatible (RX 6800 à RX 9070 XT, liste complète sur GitHub), avec 12 Go de VRAM minimum.
- RAM : 32 Go minimum, 64 Go pour utiliser toutes les tailles de modèle.
- Disque : environ 80 Go libres, de préférence sur un SSD.
- Système : Windows 10 ou 11, ou Linux, avec un pilote graphique à jour.
La RAM décide de la version que vous pouvez lancer. Une carte plus puissante accélère les réponses, mais elle ne réduit pas la RAM nécessaire.
| Votre RAM | Version conseillée |
|---|---|
| 32 Go | Coder (pensée pour le code) |
| 48 Go | IQ2_XS, ou Q2_0 pour aller plus vite |
| 64 Go | IQ2_XS (recommandée), IQ3_XXS ou IQ3_S |
| 96 Go et plus | IQ3_S ou UD-IQ4_XS (environ 4 bits) |
Strata AI : quelle vitesse en tokens par seconde ? ?
Sur une RTX 5070 de 12 Go, Strata AI écrit entre 53 et 94 tokens par seconde selon la version du modèle. Sur une RX 9070 XT de 16 Go, il écrit entre 44 et 60 tokens par seconde. Ces mesures viennent du projet lui-même. Un token représente environ trois quarts de mot. À 60 tokens par seconde, la réponse s’affiche plus vite qu’on ne la lit.
| Machine | Version | Écriture (tokens/s) | Lecture du prompt (tokens/s) |
|---|---|---|---|
| RTX 5070 (12 Go), 64 Go de RAM | Q2_0 | 94 | 2 650 |
| RTX 5070 (12 Go), 64 Go de RAM | IQ3_S | 53 | 1 620 |
| RTX 5070 (12 Go), 64 Go de RAM | Coder | 55 | 2 180 |
| RX 9070 XT (16 Go), 47 Go de RAM | Q2_0 | 60 | 1 160 |
| RX 9070 XT (16 Go), 47 Go de RAM | Coder | 44 | 1 420 |
Ces chiffres viennent du projet lui-même. Votre résultat dépendra de votre processeur, de votre RAM et de la taille du contexte. Les auteurs estiment qu’une RTX 3090 devrait écrire entre 100 et 140 tokens par seconde.
Comment installer Strata AI ?
- Téléchargez le dépôt depuis GitHub (archive ZIP ou
git clone). - Sous Windows, lancez
START-HERE.bat. Sous Linux, lancez./setup.sh. - Répondez aux questions de l’installateur (modèle, taille, contexte, images). La touche Entrée valide le choix recommandé.
L’installateur télécharge ensuite environ 70 Go de modèle. Si le téléchargement s’interrompt, relancez-le : il reprend là où il s’est arrêté. L’interface s’ouvre dans votre navigateur sur http://127.0.0.1:8080.
Au premier démarrage, votre PC peut ralentir pendant une à trois minutes. Strata charge 35 à 55 Go en RAM. C’est normal. Laissez la fenêtre ouverte.
Vous utilisez Claude Code, Cursor, Codex ou GitHub Copilot ? Vous pouvez leur demander d’installer Strata à votre place. Le fichier docs/AI_SETUP.md du dépôt leur explique la marche à suivre.
Comment connecter Strata AI à vos outils ?
Strata expose une API locale compatible avec les standards du marché :
- OpenAI : ajoutez un fournisseur « compatible OpenAI » avec l’adresse
http://127.0.0.1:8080/v1. N’importe quelle clé et n’importe quel nom de modèle fonctionnent. - Anthropic : l’endpoint
/v1/messagesest disponible. Pour Claude Code, la variableANTHROPIC_BASE_URLpointe vershttp://127.0.0.1:8080. - OpenAI Responses : l’endpoint
/v1/responsessert Codex CLI. - MCP : un serveur MCP permet à un assistant d’installer, démarrer et arrêter Strata.
Pour y accéder depuis un téléphone ou un autre PC, définissez toujours une clé API.
Strata AI vs Ollama : lequel choisir ?
Choisissez Strata AI pour faire tourner Qwen3.8-Flash-Next sur un PC Windows ou Linux équipé d’une carte NVIDIA ou AMD. Choisissez Ollama pour tester plusieurs modèles facilement, ou si vous travaillez sur Mac. Strata est un moteur taillé pour un seul modèle. Ollama est une plateforme généraliste. Tous deux exposent une API locale.
La différence se voit d’abord dans les versions proposées. La fiche Ollama de Qwen3.8-Flash-Next met en avant une version 125b-mlx : 105 Go, 256K de contexte, texte et image. MLX est le format d’Apple, donc cette version vise les Mac dotés de beaucoup de mémoire. Strata, lui, propose plusieurs niveaux de compression (de Q2_0 à IQ3_S, plus la version Coder) pour des PC avec 12 Go de VRAM et 32 à 64 Go de RAM.
Ollama sait aussi lancer des versions communautaires au format GGUF hébergées sur Hugging Face, avec la commande ollama run hf.co/…. Mais Ollama reste un outil généraliste, alors que Strata optimise un seul modèle.
Côté vitesse, je n’ai trouvé aucun test public qui oppose directement Strata à Ollama. Le seul comparatif disponible concerne llama.cpp. Sur deux RTX 3090, un utilisateur cité sur Hacker News mesure environ 100 tokens par seconde avec Strata (IQ3_XXS), contre 38 avec llama.cpp (variante 2 bits). C’est un test isolé, à prendre avec prudence.
Choisissez Strata AI si :
- vous avez au moins 12 Go de VRAM et 32 Go de RAM ;
- vous êtes sous Windows ou Linux avec une carte NVIDIA ou AMD ;
- Qwen3.8-Flash-Next sera votre modèle principal ;
- vous voulez brancher un agent de code (Claude Code, Codex CLI) sur un modèle local.
Choisissez Ollama si :
- vous changez souvent de modèle ;
- vous êtes sur Mac avec une grande mémoire unifiée ;
- vous cherchez l’installation la plus simple possible.
Quelles sont les limites de Strata AI ?
- La RAM reste le point dur. Strata réduit le besoin en VRAM, pas en mémoire vive.
- Une seule requête à la fois. Par défaut, les autres attendent. Le mode parallèle ralentit chaque réponse sur une carte de 12 Go.
- Un seul modèle. Strata ne remplace pas un outil généraliste.
- La version Coder est plus faible hors du code, notamment en chinois et dans les langues CJK.
- Les images posent question. Sous Windows, les cartes AMD ne lisent pas encore les images. Sur Hacker News, un testeur a aussi mesuré une localisation d’objets bien moins précise avec Strata qu’avec llama.cpp, à poids identiques.
- Un premier prompt long est lent. Comptez environ une minute pour 30 000 tokens.
- Le projet est jeune. Les versions s’enchaînent vite. Notez la version que vous utilisez avant de mettre à jour.
FAQ sur Strata AI
Strata AI est-il gratuit ?
Oui. Le moteur est open source sous licence MIT. Le modèle Qwen3.8-Flash-Next a sa propre licence, à vérifier pour un usage commercial.
Strata AI fonctionne-t-il sans carte graphique dédiée ?
Non. Il faut une carte NVIDIA ou AMD avec au moins 12 Go de VRAM. Les cartes plus anciennes et les puces Intel Arc sont possibles, mais en mode expérimental.
Strata AI fonctionne-t-il sur Mac ?
Le dépôt officiel ne cible que Windows et Linux. Sur Mac, la version MLX proposée par Ollama est plus adaptée.
Mes données restent-elles sur mon PC ?
Oui. Le moteur tourne en local et l’interface écoute sur 127.0.0.1 par défaut. Si vous l’ouvrez au réseau, définissez une clé API.
Quelle version choisir avec 32 Go de RAM ?
La version Coder, la seule qui tient dans 32 Go. Elle atteint 91 % du score SWE-bench Verified du modèle complet, d’après ses auteurs.
Peut-on utiliser Strata AI avec Claude Code ?
Oui. Strata propose une API compatible Anthropic. Il suffit de pointer ANTHROPIC_BASE_URL vers http://127.0.0.1:8080.
Strata AI en résumé
Strata AI ne remplace pas Ollama. Il fait une seule chose : rendre Qwen3.8-Flash-Next utilisable sur un PC de joueur. Si votre machine a assez de RAM, c’est l’un des moyens les plus rapides de faire tourner un modèle de cette taille chez soi.
Pour en savoir plus, l’article d’Open Source For You résume bien le projet.
