Achetez de la mémoire, pas des TOPS. Pour l'IA locale sur un mini PC, la seule caractéristique déterminant les modèles compatibles est la RAM. 24 Go permettent d'exécuter un modèle de 14 octets sans problème, 16 Go gèrent correctement les modèles de 7 ou 8 octets, et 8 Go suffisent pour les petits assistants de 3 octets ; la puissance du NPU n'y change rien.
Voilà la réponse courte, et c'est tout le contraire de la façon dont les PC dédiés à l'IA sont commercialisés. Les fabricants indiquent le nombre TOPS sur l'emballage car c'est un grand nombre entier ; ils n'indiquent pas la bande passante mémoire car c'est ce qui constitue la véritable limite.
Voici la signification des termes marketing, la vitesse réelle de génération de texte d'un mini PC et le modèle à acheter pour chaque prix.
Points clés à retenir
- La mémoire détermine quels modèles sont exécutés. 8 Go → 3 octets, 16 Go → 7 octets/8 octets, 24 Go → 14 octets. Il n'existe rien de plus de 24 Go dans ce format.
- TOPS ne prédit pas le nombre de jetons par seconde. La bande passante mémoire, par exemple : un modèle 14B à 102 Go/s atteint un maximum d’environ 11 jetons/seconde.
- La plupart des logiciels d'IA locaux ignorent le NPU. Ollama, LM Studio et llama.cpp s'exécute sur le processeur et le GPU intégré.
- Son exploitation est peu coûteuse. Deux heures d'inférence par jour coûtent environ 27 $ par an en électricité.
- Les modèles 32B ne sont pas compatibles. 20 Go de poids plus Windows ne laissent plus de place dans 24 Go.
Dans ce guide
Qu'est-ce qu'un mini-PC IA ?
En 2026, ce terme désignera trois choses, et elles ne sont pas équivalentes :
- Une machine dotée d'un NPU. Intel Core Ultra et AMD Ryzen Les puces de la série 8000 intègrent une unité de traitement neuronal d'une puissance de calcul d'environ 10 à 40 TOPS. Conçue pour les tâches en arrière-plan prolongées (effets d'appel vidéo, certains outils photo), elle est rarement utilisée par les modèles de langage local.
- Une machine dotée de suffisamment de mémoire. C'est la seule définition qui importe pour l'exécution d'un modèle. 24 Go de LPDDR5 à 102 Go/s peuvent contenir et alimenter un modèle de 14 octets.
- Une machine dotée d'un puissant iGPU. Les cartes graphiques Intel Arc et Radeon 780M peuvent décharger certaines couches d'un modèle, ce qui accélère la génération, mais elles partagent la mémoire avec le processeur, donc la capacité n'augmente pas.
NPU vs GPU vs CPU
L'inférence locale est répartie entre trois moteurs, et cette répartition dépend du logiciel :
- processeur — Toujours utilisé, et souvent le seul moteur. Gère l'intégralité du modèle en l'absence de déchargement GPU.
- iGPU — utilisé par llama.cpp et ses dérivés pour placer certaines couches. Plus rapide que le processeur pour le nombre de couches qu'il gère, limité par la mémoire partagée.
- NPU — Utilisé par un petit nombre de solutions propriétaires. Ne sera pas la voie par défaut pour Ollama ou LM Studio en 2026.
Pourquoi TOPS n'est pas le numéro à privilégier pour faire ses achats
L'unité TOPS mesure le nombre maximal d'opérations sur des entiers par seconde lors d'une charge de travail synthétique. La vitesse de génération est limitée par la rapidité de lecture des poids du modèle en mémoire (une passe complète par jeton). Une puce avec 40 TOPS et une bande passante de 60 Go/s sera plus lente qu'une puce avec 10 TOPS et 100 Go/s.
Donc, lorsque vous voyez « PC IA, 40 TOPS », traduisez cela par : cette machine possède un accélérateur pour les tâches en arrière-plan.Vérifiez ensuite la mémoire.
Quelle capacité de mémoire pour chaque taille de modèle ?
| Taille du modèle | Poids du T4 | Plus Windows + contexte | RAM minimale requise | Ce à quoi cela sert |
|---|---|---|---|---|
| 3B | 1,9 Go | ~7 Go | 8 Go | Résumé, traduction, assistants simples |
| 7B/8B | 4,8 Go | ~10 Go | 12 Go serré, 16 Go confortable | Discussions générales, rédaction, saisie semi-automatique du code |
| 14B | 9,0 Go | ~15 Go | 16 Go serré, 24 Go confortable | Raisonnement plus rigoureux, documents longs, codage local |
| 32B | 19,9 Go | ~27 Go | 32 Go | Impossible sur un mini PC de 24 Go |
Les poids correspondent aux tailles typiques des fichiers GGUF Q4_K_M. La surcharge est due à Windows et à un cache de contexte de 8 à 32 Ko ; une installation Linux minimale permet d’économiser environ 2 Go.
En pratique : choisissez la taille de modèle dont vous avez réellement besoin, puis achetez la capacité de mémoire compatible, en prévoyant 2 à 4 Go de marge. Dans ce cas, la plupart des utilisateurs optent pour 16 Go pour le modèle 7B et 24 Go pour le modèle 14B.
À quelle vitesse fonctionnera-t-il réellement ?
Il existe un modèle simple pour la vitesse de génération : jetons par seconde ≈ bande passante mémoire ÷ taille du modèle. Le modèle complet est lu une fois par jeton, donc un modèle de 9 Go sur une machine de 102 Go/s atteint un maximum d'environ 11 jetons par seconde.
C’est pourquoi, sur le même matériel, un modèle 3B semble instantané tandis qu’un modèle 32B paraît instable. Cela explique aussi pourquoi l’ajout de cœurs est inutile : une puce à 16 cœurs et une puce à 6 cœurs ayant la même bande passante produisent des jetons à un rythme quasiment identique.
En pratique, prévoyez entre 50 et 70 % du nombre théorique. Un modèle 7B au quatrième trimestre sur un mini PC de 24 Go offre une interaction fluide ; 14B permettent la prise de notes mais pas les conversations instantanées ; tout ce qui déborde de la mémoire est traité à la vitesse du disque et devient inutilisable.
Quel est le coût du maintien de l'alimentation ?
On laisse généralement le boîtier d'IA activé pour que le modèle soit chargé quand on en a besoin. À 12,4 W en veille, cela représente environ… 19 $ par an. Deux heures d'inférence par jour représentent en moyenne 17 W, ou 27 $. Même huit heures par jour n'atteignent que les 1000 heures. 53 $.
Comparez cela au matériel : la différence de prix entre un ordinateur de 16 Go et un de 24 Go est d’environ 290 $. La consommation électrique n’est jamais le critère de choix d’une gamme plutôt qu’une autre ; c’est la mémoire.
Lequel BMAX pour chaque emploi ?
| Ce que vous voulez exécuter | Prendre | Pourquoi |
|---|---|---|
| Petits assistants 3B, résumé, traduction | B3 Pro — 8 Go, 199,99 $ | Suffisant pour les modèles compacts et la solution la plus économique pour expérimenter. |
| Assistants de chat et de codage 7B/8B | B11 Pro — 16 Go, 459,99 $ | 16 Go offrent une marge de manœuvre confortable pour Windows et un contexte 8K. |
| Modèles 14B, contexte long, plusieurs outils ouverts | B12 Power — 24 Go, 749,99 $ | Le seul niveau capable de gérer confortablement 14 milliards de fichiers ; 16 cœurs contribuent à un traitement rapide. |
| 32B et plus | Pas un mini PC | Nécessite 32 à 64 Go de mémoire extensible — un format différent. |
Deux remarques. La mémoire est soudée sur tous les modèles, le choix est donc définitif. Si vous hésitez entre 16 Go et 24 Go, optez pour le modèle 24 Go si l'IA locale fait partie de vos projets : c'est ce qui fera la différence entre un ordinateur performant en 2029 et un autre qui ne le sera plus.
Quand ne faut-il pas en acheter un ?
- Il vous faut des modèles 32B ou plus grands. Les fichiers de poids à eux seuls occupent 20 Go ; avec Windows et le contexte, il n'y a plus de place dans 24 Go.
- Vous avez besoin d'une génération rapide. Un mini PC a une bande passante limitée. Si vous avez besoin de plus de 30 jetons par seconde sur un modèle 14B, il vous faut une carte graphique dédiée avec sa propre mémoire.
- Vous souhaitez vous entraîner ou peaufiner. L'inférence locale convient parfaitement ; l'entraînement nécessite de la VRAM et de la bande passante que ce format ne possède pas.
- Il faut qu'il soit silencieux en charge. L'inférence soutenue correspond à une charge constante sur tous les cœurs. Une machine silencieuse refroidie par ventilateur devient audible après dix minutes ; la nôtre guide sans ventilateur explique pourquoi le refroidissement passif n'est pas non plus la solution.
Comment démarrer en 30 minutes ?
- Installer Ollama (ligne de commande) ou LM Studio (Application de bureau). Les deux gèrent automatiquement la quantification et la mémoire.
- Téléchargez un modèle 7B au 4e trimestre Premièrement, c'est le moyen le plus rapide de vérifier que la machine fonctionne avant de procéder à un téléchargement plus important.
- Surveillez la mémoire dans le Gestionnaire des tâches Pendant le chargement. Si la limite est presque atteinte, réduisez la taille du contexte avant de supprimer le modèle.
- Utilisez une installation Linux minimale Si possible, cela libère environ 2 Go, ce qui fait souvent la différence entre un format 14 octets compatible et un format incompatible.
- Conservez le modèle sur NVMe, Ce n'est pas une clé USB. Charger un modèle de 9 Go depuis une clé USB est tellement lent que ça donne l'impression d'un plantage.
Si vous souhaitez connaître le calcul complet de la mémoire derrière ces niveaux, consultez notre Guide local de la RAM pour l'IA va plus loin. Si vous construisez une machine qui sert également à la gestion de fichiers et exécute des conteneurs, la Guide Linux couvre la partie logicielle.
FAQ
Ai-je besoin d'un NPU pour exécuter de l'IA en local ?
Non. Ollama, LM Studio et llama.cpp L'exécution se fait sur le CPU et l'iGPU. Un NPU aide pour les tâches en arrière-plan comme les effets vidéo, mais ce n'est pas la voie principale pour les modèles de langage en 2026.
De combien de RAM ai-je besoin pour un modèle 7B ?
Environ 10 Go au total avec Windows et son contexte d'utilisation, donc 12 Go constituent le minimum et 16 Go sont confortables. Sur une installation Linux minimale, 8 Go peuvent suffire avec un contexte d'utilisation limité.
Un mini PC peut-il faire tourner un modèle 32B ?
Pas correctement. Un modèle 32B du quatrième trimestre pèse environ 20 Go ; avec Windows et un cache de contexte, il n'y a pas assez de place sur une machine de 24 Go. Le chargement par pagination sur disque est possible, mais la vitesse est inutilisable.
À combien de jetons par seconde dois-je m'attendre ?
En pratique, la bande passante mémoire doit être divisée approximativement par la taille du modèle, soit 50 à 70 % de cette valeur. Un modèle de 7 octets au quatrième trimestre sur une machine de 24 Go est interactif ; 14 octets sont utilisables pour la conception ; 32 octets ne sont pas pratiques.
16 Go suffisent-ils pour une IA locale ?
Pour les modèles 7B et 8B, oui.Pour 14 octets, 16 Go fonctionnent mais ne laissent pratiquement aucune marge de manœuvre, et vous le constaterez lors des mises à jour Windows ou lorsqu'un navigateur est ouvert.
Un processeur plus rapide permet-il d'accélérer les réponses de l'IA ?
À peine. La génération est limitée par la bande passante mémoire, et non par la puissance de calcul. Un processeur plus rapide améliore le traitement rapide des entrées longues, mais pas la génération des jetons.
Puis-je utiliser le GPU intégré pour accélérer les choses ?
Oui - llama.cpp LM Studio peut décharger certaines couches sur les cartes graphiques Intel Arc ou Radeon. Cela améliore les performances, mais n'augmente pas la mémoire disponible ; la taille maximale des modèles reste donc inchangée.
Lequel BMAX Le mini PC est-il le meilleur choix pour l'IA locale ?
La vitamine B12 Power avec 24 Go pour les modèles 14B, le B11 Pro avec 16 Go pour les modèles 7B et 8B, et le B3 Pro avec 8 Go pour les petites tâches de 3 milliards de blocs.
Lectures complémentaires
- IA locale sur mini PC : guide complet de la RAM pour 7 à 32 octets
- Coût annuel d'utilisation d'un mini PC
- Qu'est-ce qu'un PC IA réellement (principes, pas achat)
- Le BMAX guide d'achat
24 Go, 16 cœurs, modèles 14B. Le BMAX B12 Power est le seul niveau de la gamme à exécuter un modèle 14B au T4 avec un contexte suffisant.
Sources
- Tailles des poids des modèles : tailles typiques Q4_K_M GGUF pour les modèles de paramètres 3B–32B ; la surcharge suppose Windows plus 1–4 Go de cache KV.
- Données de bande passante : DDR5-5600 double canal ≈ 89 Go/s ; LPDDR5-6400 ≈ 102 Go/s. L’estimation du nombre de jetons correspond à la bande passante divisée par la taille du modèle, une limite supérieure.
- Power: 12,4 W en veille (valeur B12 publiée) Power mesures ; ~80 W d'inférence soutenue modélisée pour une puce de 45 W sous charge ; électricité à 17,45 ¢/kWh, EIA janvier 2026.
- Prix et configurations : bmaxbuy.com Pages produits, octobre 2026.
Les performances indiquées dans cet article correspondent à des limites supérieures modélisées et non à des mesures. Le débit réel dépend de la durée d'exécution, du format de quantification, de la longueur du contexte et de l'efficacité de la mémoire.
