Aller au texte
DAVELI, accueil du site L’Équipe invisible

Partie 5. Héberger son IA

Chapitre 12. Choisir sa machine

Trois caractéristiques d’une machine déterminent ce qu’elle peut faire tourner, et à quelle vitesse :

  1. la quantité de mémoire, qui fixe la taille des modèles qu’elle peut charger, cache de contexte compris (→ chapitre 6) ;
  2. la bande passante de cette mémoire, qui fixe la vitesse à laquelle le modèle rédige ;
  3. la puissance de calcul, qui fixe la vitesse à laquelle il lit ce qu’on lui donne.

Le mot juste. Mémoire unifiée. Une architecture où le processeur et la puce graphique partagent la même mémoire. Sur un PC classique, la carte graphique a sa propre mémoire, limitée à 24 ou 32 gigaoctets sur les modèles grand public. Avec une mémoire unifiée de 128 gigaoctets, un modèle peut en utiliser plus de 90.

Le mot juste. Bande passante mémoire. La quantité de données que la mémoire transmet par seconde, exprimée en gigaoctets par seconde (Go/s). Pour produire chaque jeton, le modèle relit une partie de ses poids : plus la bande passante est élevée, plus la rédaction est rapide.

Pourquoi certains grands modèles vont vite

Le mot juste. Mélange d’experts (MoE, mixture of experts). Un modèle découpé en nombreux sous-ensembles, dont seuls quelques-uns travaillent à chaque jeton. gpt-oss-120b compte 117 milliards de paramètres, mais n’en mobilise que 5,1 milliards à chaque jeton. Il occupe la mémoire d’un grand modèle et rédige presque à la vitesse d’un petit.

Sur les machines à mémoire unifiée, cette architecture fait toute la différence. Un modèle « dense », qui mobilise tous ses paramètres à chaque jeton, va beaucoup plus lentement : un modèle dense de 27 à 32 milliards de paramètres produit environ 10 jetons par seconde sur un mini-PC à base de Ryzen AI Max+ 395 ou sur un DGX Spark, et 25 sur un Mac Studio M5 Max. Le mélange d’experts gpt-oss-120b, quatre fois plus gros, en produit entre 35 et 85 selon la machine1.

Pour situer ces chiffres : un adulte lit en silence environ 240 mots par minute, soit quatre mots par seconde2. Au-delà de 20 jetons par seconde, le texte s’affiche plus vite qu’on ne le lit. La vitesse compte davantage pour un agent, qui produit beaucoup de texte intermédiaire avant la réponse finale, et pour la lecture de longs documents.

Quatre paliers

Palier Équipement Ce qu’il fait tourner Usage
Sous le palier 0 Moins de 16 Go de mémoire vive, sans carte graphique dédiée : le cas de nombreux ordinateurs de bureau classiques De petits modèles, jusqu’à 7 ou 8 milliards de paramètres, lentement Aucun résultat professionnel satisfaisant ; passez par le cloud
0 L’ordinateur que vous avez, s’il possède au moins 16 Go de mémoire vive ; 32 à 64 Go de préférence gpt-oss-20b (16 Go) ; un modèle de 27 milliards de paramètres sur un Mac de 32 Go Essai, usage personnel léger
1 Un PC avec une carte graphique de plus de 12 Go de mémoire vidéo : 16, 24 ou 32 Go gpt-oss-20b avec 16 Go ; modèles jusqu’à 30 milliards de paramètres avec 24 ou 32 Go ; très rapidement, tant que le modèle tient dans la mémoire vidéo Une personne, tâches ciblées
2 Une machine à mémoire unifiée de 128 Go Modèles d’environ 120 milliards de paramètres en mélange d’experts Une à cinq personnes, la plupart des tâches
3 Station à plusieurs cartes graphiques, Mac Studio M5 Ultra Modèles de plusieurs centaines de milliards de paramètres Surdimensionné pour une TPE

Palier 0. Avec 16 gigaoctets de mémoire vive, gpt-oss-20b tient tout juste : fermez les autres applications pendant l’essai. Sur un PC sans carte graphique dédiée, c’est le processeur qui calcule, et le modèle répond lentement ; sur un Mac à puce Apple, la mémoire unifiée le fait tourner nettement plus vite. Avec 32 à 64 gigaoctets, il reste de la place pour le contexte et pour des modèles de 20 à 30 milliards de paramètres.

Palier 1. Une carte graphique de 24 gigaoctets est très rapide sur les modèles qui y tiennent : une RTX 3090 produit environ 147 jetons par seconde avec gpt-oss-20b et 34 avec un modèle dense de 27 à 31 milliards de paramètres3. Elle ne peut pas charger gpt-oss-120b. En octobre 2026, une RTX 3090 d’occasion se négocie aux États-Unis autour de 1 160 à 1 250 euros ; une RTX 4090 neuve coûte à partir de 3 790 euros en France, et une RTX 5090 de 32 gigaoctets, à partir de 6 600 euros4.

Palier 3. Le Mac Studio M5 Ultra monte à 256 gigaoctets (de 10 600 à 13 600 euros environ) et bientôt 512 ; une carte NVIDIA RTX PRO 6000 de 96 gigaoctets coûtait 18 000 euros en France en octobre 20265. Ces équipements servent à faire tourner des modèles que les machines de 128 gigaoctets ne peuvent pas charger. Une TPE en a rarement l’usage.

Le palier 2 : trois familles de machines

AMD Ryzen AI Max+ 395 NVIDIA GB10 Apple M5 Max
Exemples et prix (France, octobre 2026) Bosgame M5 2 722 € (prix payé par l’auteur en septembre ; version européenne en rupture début octobre) ; Minisforum MS-S1 Max dès 3 999 € ; GMKtec EVO-X2 4 349 € ; HP Z2 Mini G1a 5 909 € DGX Spark 4 800 € (en rupture de stock le 12 octobre) ; ASUS Ascent GX10 1 To 6 548 € Mac Studio 128 Go de 5 669 € à 6 739 € selon le stockage
Bande passante mémoire 256 Go/s 273 Go/s 614 Go/s
gpt-oss-120b, rédaction 35 à 53 jetons/s environ 59 jetons/s 76 à 85 jetons/s
gpt-oss-120b, lecture du prompt 500 à 1 100 jetons/s environ 2 400 jetons/s 950 à 1 600 jetons/s
Consommation au repos / en charge 8 à 14 W / 100 à 135 W 22 à 25 W / environ 110 W 7 à 9 W / environ 100 W
Bruit en charge 38 à 45 dBA moins de 40 dBA pratiquement inaudible
Système Windows ou Linux DGX OS (Linux) macOS
Mémoire utilisable par le modèle 96 Go sous Windows ; jusqu’à 120 Go environ sous Linux, après réglage environ 121 Go environ 96 Go par défaut, davantage après réglage

Sources des chiffres : 6 ; pour le Bosgame M5, 7. Le bruit est exprimé en décibels pondérés (dBA) ; 40 dBA correspondent à peu près au niveau sonore d’une bibliothèque calme.

Les machines AMD sont les moins chères et les plus polyvalentes : ce sont des PC qui font aussi tourner Windows et les logiciels de bureau habituels. Leur bande passante est la plus faible, donc leur rédaction la plus lente. Sur la machine de l’auteur, un modèle dense de 27 à 31 milliards de paramètres rédige à 10 ou 11 jetons par seconde ; une RTX 3090 va trois à quatre fois plus vite sur ces modèles8. Sous Windows, le modèle ne peut utiliser que 96 gigaoctets. Linux, le système libre qui équipe la plupart des serveurs, est préférable pour les grands modèles. D’usine, le BIOS réserve une part fixe de la mémoire à la puce graphique, 64 gigaoctets sur la machine de l’auteur ; sous Linux, on réduit cette réserve au minimum et le système prête la mémoire à la puce graphique selon les besoins (→ annexe C). Le réglage des logiciels demande un peu plus de patience que sur les deux autres familles. L’auteur de ce livre a choisi une machine de cette famille : le chapitre 14 raconte sa mise en service.

Les machines NVIDIA GB10 lisent les longs documents nettement plus vite que les autres (environ 2 400 jetons par seconde, contre 500 à 1 600), et la plupart des logiciels d’IA sont d’abord conçus pour les puces NVIDIA. Elles sont les mieux armées pour servir plusieurs personnes à la fois (→ chapitre 14). Elles fonctionnent uniquement sous Linux, et leur prix a fortement augmenté en 2026, avec des ruptures de stock.

Le Mac Studio M5 Max rédige le plus vite, consomme le moins au repos et ne s’entend presque pas. Il convient bien à une personne seule ou à une petite équipe habituée à macOS. Sa mémoire plafonne à 128 gigaoctets, et macOS se prête moins naturellement que Linux à un usage de serveur.

Point de vigilance. Les prix de la mémoire ont fortement augmenté en 2026. NVIDIA a relevé de 17,5 % le prix du DGX Spark aux États-Unis en février ; Framework a augmenté son Framework Desktop de 128 gigaoctets de 440 euros en janvier, puis encore de 6 à 16 % en février ; le prix du GMKtec EVO-X2 a augmenté de 66 % aux États-Unis entre le début de l’année et septembre9. Le Bosgame M5 de l’auteur coûtait environ 1 585 euros en décembre 2025 et 2 700 euros en septembre 2026, soit 70 % de plus en un an10. Les prix de ce chapitre auront changé quand vous le lirez. Achetez en fonction de votre besoin, sans parier sur une baisse.

Ce que coûte la machine en fonctionnement

L’électricité pèse peu. Une machine qui consomme 100 watts en continu, jour et nuit, utilise 876 kilowattheures par an. Au tarif réglementé Bleu professionnel, option base, d’août 2026 (0,1624 euro le kilowattheure hors TVA), cela représente environ 142 euros par an, soit 12 euros par mois ; pour dix heures par jour, environ 59 euros par an11. Comme ces machines consomment peu au repos, la dépense réelle se situe en dessous. Le serveur de l’auteur consomme, mesuré à la prise, 10 à 11 watts au repos : 96 kilowattheures par an s’il ne fait rien, environ 16 euros hors taxes au tarif ci-dessus. Avec deux heures de travail par jour, il consomme 176 kilowattheures, environ 29 euros ; avec huit heures, 444 kilowattheures, environ 72 euros (→ chapitre 14).

Sur le plan fiscal, le matériel informatique s’amortit habituellement sur trois ans : son coût est réparti en charges sur trois exercices12. Un micro-entrepreneur, imposé sur un abattement forfaitaire, ne peut pas déduire l’achat. Demandez l’avis de votre expert-comptable avant d’acheter.

Choisir

Prévoyez au moins deux téraoctets de stockage : un grand modèle occupe 60 à 75 gigaoctets, et l’on en garde vite plusieurs. Pour les dix-sept modèles de son serveur, l’auteur a téléchargé environ 800 gigaoctets. Achetez auprès d’un vendeur établi dans l’Union européenne, pour faciliter le service après-vente, et lisez sa politique de retour avant de commander : le droit de rétractation de quatorze jours prévu pour les achats à distance protège les consommateurs, et un achat professionnel n’en bénéficie en général pas. Préparez la liste des contrôles à faire à la réception avant que la machine arrive (→ chapitre 14 et annexe B).

Cas d’entreprise (expérience réelle de l’auteur). L’auteur de ce livre travaille au palier 1. Une carte graphique RTX 3090 de 24 gigaoctets, placée dans un boîtier externe, est reliée à son ordinateur portable. Elle fait tourner des modèles d’environ 27 milliards de paramètres pour la correction de textes (→ chapitre 13). Pour cet usage individuel et ciblé, une machine de 128 gigaoctets serait surdimensionnée : sur ces modèles, la carte de 24 gigaoctets va trois à quatre fois plus vite que le mini-PC de 128 gigaoctets que l’auteur a ensuite acheté pour d’autres besoins (→ chapitre 14).

La jauge. Pour une personne qui veut corriger, résumer ou rédiger avec un modèle de taille moyenne, le palier 1 est adapté. Pour une équipe de deux à cinq personnes qui veut un modèle polyvalent capable de servir d’agent, le palier 2 est adapté. Le palier 3 est surdimensionné pour une TPE, sauf besoin très particulier.

Exercice. Remplissez la fiche d’achat de l’annexe B avec vos tâches, votre nombre d’utilisateurs et vos contraintes (système, bruit, budget).

Notes

  1. Mesures publiées : DGX Spark et modèles denses, https://github.com/nabe2030/dense-27b-31b-dgx-spark (25 avril 2026) ; Ryzen AI Max+ 395, https://github.com/visorcraft/strix-halo-llm-perf (mars 2026) et https://forum.level1techs.com/t/strix-halo-llm-inference-notes/249466 (avril-mai 2026) ; Mac Studio M5 Max, https://tbreak.com/mac-studio-m5-max-review-local-ai/ (21 septembre 2026) et https://omlx.ai/benchmarks/5muhzznz (25 avril 2026).↩︎

  2. Marc Brysbaert, « How many words do we read per minute? A review and meta-analysis of reading rate », Journal of Memory and Language, vol. 109, 2019 (mesure établie sur l’anglais).↩︎

  3. Hardware Corner, mesures de mars 2026 : https://www.hardware-corner.net/gpu-llm-benchmarks/rtx-3090/.↩︎

  4. RTX 3090 d’occasion : https://gpupoet.com/gpu/learn/price/october-2026/nvidia-geforce-rtx-3090 ; RTX 4090 : https://gpupricehistory.com/fr/rtx-4090 (4 octobre 2026) ; RTX 5090 chez LDLC, relevé du 9 octobre 2026 : https://www.materiel-gamer.com/rtx-5090-a-6-59995-euros-chez-ldlc-notre-releve-du-9-octobre-montre-1-100-euros-de-plus-en-26-jours-la-rtx-5080-gagne-100-euros-la-rtx-5070-ti-130-et-la-rtx-5070-na-pas-bouge/ ; tbreak, 21 septembre 2026 (gpt-oss-120b non chargé sur RTX 5090).↩︎

  5. Mac Studio M5 Ultra : https://consomac.fr/news-24449-apple-devoile-ses-mac-studio-avec-puces-m5-max-et-m5-ultra.html (25 août 2026), https://www.alternate.fr/Subtabber-WAVE/Apple/Mac-Studio, https://www.macg.co/mac/2026/09/le-mac-studio-m5-ultra-le-plus-puissant-ne-sera-pas-livre-avant-janvier-311247 ; RTX PRO 6000 : https://gpuprix.com/fr/france/gpus/rtx-pro-6000-blackwell (12 octobre 2026).↩︎

  6. Prix relevés le 12 octobre 2026 : Galaxus (GMKtec), Notebookcheck (Minisforum, 28 septembre 2026), PcComponentes (HP), boutique NVIDIA France et Pause Hardware (DGX Spark, 27 février 2026), Alternate (ASUS, Apple), Darty et Fnac (Apple). Caractéristiques et mesures : fiche technique NVIDIA DGX Spark ; https://www.apple.com/fr/mac-studio/specs/ ; https://github.com/ggml-org/llama.cpp/blob/master/benches/dgx-spark/dgx-spark.md ; forum NVIDIA (23 octobre 2025 et 10 août 2026) ; ServeTheHome (14 octobre 2025 et 21 août 2026) ; Tom’s Hardware (12 février 2026) ; tbreak (21 septembre 2026) ; runaihome.com (26 septembre 2026) ; documentation ROCm pour Strix Halo.↩︎

  7. David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎

  8. David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎

  9. https://www.cowcotland.com/news/99865/faire-de-l-ia-a-la-maison-avec-un-nvidia-dgx-spark-coutera-700-dollars-de-plus.html (27 février 2026) ; https://www.notebookcheck.com/Framework-Desktop-wird-wegen-DRAM-Krise-bis-zu-440-Euro-teurer.1202819.0.html (13 janvier 2026) ; https://www.cowcotland.com/news/99702/framework-revoit-encore-ses-prix-ddr5-et-lpddr5x-a-la-hausse.html (16 février 2026) ; https://runaihome.com/blog/framework-desktop-vs-gmktec-evo-x2-local-ai-2026/ (26 septembre 2026).↩︎

  10. David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎

  11. Commission de régulation de l’énergie, délibération 2026-147 du 15 juillet 2026 : https://www.cre.fr/fileadmin/Documents/Deliberations/2026/260715_2026-147_TRVE.pdf ; prix au kilowattheure relevé par Selectra, 5 août 2026 : https://entreprises.selectra.info/energie/actualites/tarifs-reglementes-electricite-professionnels-aout-2026. Calcul hors abonnement.↩︎

  12. Bpifrance Création, « Amortissements », mai 2026 : https://bpifrance-creation.fr/encyclopedie/fiscalite-lentreprise/fiscalite-divers/amortissements.↩︎