Partie 5. Héberger son IA
Chapitre 13. Choisir ses modèles
Où les trouver, comment les lire
Les modèles à poids ouverts se téléchargent sur Hugging Face (→ chapitre 10) ou depuis la bibliothèque d’Ollama. Avant d’en adopter un, lisez sa fiche :
- la licence ;
- le nombre de paramètres, total et actif s’il s’agit d’un mélange d’experts ;
- la mémoire nécessaire au format de quantification envisagé (→ chapitre 2) ;
- la longueur de contexte maximale ;
- les langues prises en charge ;
- la date de publication.
Les licences
La plupart des modèles utiles à une TPE sont publiés sous licence Apache 2.0 ou MIT, qui autorisent l’usage commercial sans restriction : gpt-oss d’OpenAI, Mistral Small 4, Magistral et Voxtral de Mistral AI, la plupart des modèles Qwen d’Alibaba, Gemma 4 de Google (premier de cette famille sous Apache 2.0), les modèles GLM de Zhipu et DeepSeek V4 Flash1.
Plusieurs exceptions méritent l’attention :
- Qwen3.8-Flash-Next est publié sous une licence propre à Qwen. L’usage interne est libre, mais une entreprise qui propose à des tiers un assistant ou un service fondé sur ce modèle doit obtenir une licence séparée.
- La licence de Llama 4, de Meta, retire aux personnes et aux entreprises établies dans l’Union européenne les droits d’usage de ses modèles multimodaux ; Llama 4 Scout, qui lit les images, est concerné. Mieux vaut l’éviter, ou faire vérifier la question par un juriste2.
- MiniMax M2.7, un grand modèle de 229 milliards de paramètres qui tient dans 128 gigaoctets, est publié sous une licence non commerciale : il est exclu de tout usage professionnel. Les modèles Nemotron, sous licence NVIDIA, et Laguna, sous licence OpenMDW, demandent de lire leurs conditions avant un usage commercial3.
Le mot juste. Multimodal. Se dit d’un modèle qui traite d’autres types de données que le texte : images, documents scannés, parfois son.
Les modèles qui tiennent dans 128 gigaoctets
| Modèle | Éditeur | Licence | Paramètres (total / actifs) | Mémoire, environ 4 bits | Points forts |
|---|---|---|---|---|---|
| gpt-oss-120b | OpenAI | Apache 2.0 | 117 / 5,1 milliards | 61 à 65 Go | Raisonnement, appel d’outils, rapidité |
| Mistral Small 4 | Mistral AI | Apache 2.0 | 119 / 6,5 milliards | 66 à 74 Go | Images, raisonnement réglable, agents ; français pris en charge |
| Qwen3.5-122B-A10B | Alibaba | Apache 2.0 | 122 / 10 milliards | environ 72 Go | 201 langues |
| Qwen3-Coder-Next | Alibaba | Apache 2.0 | 80 / 3 milliards | n. c. | Conçu pour les agents de programmation |
| Gemma 4 26B-A4B | Apache 2.0 | 26 / 3,8 milliards | n. c. | Images, plus de 140 langues | |
| GLM-4.5-Air | Zhipu | MIT | 106 / 12 milliards | n. c. | Usage général |
| Qwen3.8-27B | Alibaba | Apache 2.0 | 27 milliards (dense) | environ 18 Go | Images ; tient sur une carte de 24 Go |
| gpt-oss-20b | OpenAI | Apache 2.0 | 21 / 3,6 milliards | 16 Go | Petits équipements |
Sources : fiches des modèles sur Hugging Face et annonces des éditeurs4. « n. c. » : non communiqué dans les sources consultées.
Les modèles encore plus grands ne tiennent dans 128 gigaoctets qu’au prix d’une compression extrême. DeepSeek V4 Flash, avec 284 milliards de paramètres, ne loge qu’en format 2 bits, avec une perte de qualité sensible5.
Un modèle par usage
- Rédaction, synthèse, courriels, devis : gpt-oss-120b, Qwen3.5-122B-A10B, Gemma 4 31B ; Mistral Small 4, si sa vitesse est correcte sur votre machine (voir plus bas).
- Agents avec outils : gpt-oss-120b et Mistral Small 4 ; Qwen3-Coder-Next pour les tâches de programmation.
- Traitement de données par lots (classer des courriels, extraire des informations, résumer en série) : un mélange d’experts rapide, comme gpt-oss-20b ou Qwen3.6-35B-A3B.
- Documents scannés et images : Gemma 4 26B-A4B, Mistral Small 4 et Qwen3.8-27B lisent les images. Pour la seule reconnaissance de texte, de petits modèles spécialisés suffisent : GLM-OCR (licence MIT) et LightOnOCR-2, de la société française LightOn (Apache 2.0), prennent en charge le français6.
- Transcription de réunions ou de messages vocaux : Whisper large-v3 d’OpenAI, ou Voxtral Small et Mini de Mistral AI (Apache 2.0), qui transcrivent le français, jusqu’à trente minutes d’enregistrement7.
- Recherche dans vos documents : un modèle de plongement multilingue (voir l’encadré).
Le mot juste. Modèle de plongement (embedding). Un petit modèle qui transforme un texte en une liste de nombres représentant son sens. Deux textes de sens proche donnent des listes proches, ce qui permet la recherche par le sens des bases documentaires (→ chapitre 5). Pour des documents en français, choisissez un modèle multilingue comme bge-m3 (MIT) ou Qwen3-Embedding (Apache 2.0) ; nomic-embed-text, très répandu, ne traite que l’anglais8.
Mesuré sur une machine de 128 gigaoctets
L’auteur a installé et mesuré dix-sept modèles sur son serveur à base de Ryzen AI Max+ 395 (→ chapitre 14). Voici les plus utiles pour une petite entreprise9 :
| Modèle | Fichier | Traitement du prompt (jetons/s) | Chargement | Usage retenu par l’auteur |
|---|---|---|---|---|
| gpt-oss-20b | 12 Go | 2 407 | 8 s | Traitement de données par lots |
| Qwen3.6-35B-A3B | 22 Go | 1 577 | 4 s | Assistant rapide, traitement par lots, correction de textes |
| Gemma 4 26B-A4B | 22 Go | 1 709 | 5 s | Lecture de photos et de documents numérisés |
| Qwen3-Coder-Next | 50 Go | 993 | 20 s environ | Programmation, agents |
| gpt-oss-120b | 63 Go | 1 122 | 30 s environ | Analyse, contrôles de cohérence |
| Qwen3.5-122B-A10B | 77 Go | 508 | 30 s environ | Rédaction, synthèse de longs documents, questions factuelles |
| Gemma 4 31B (dense) | 23 Go | 335 | 9 s | Rédaction, relecture, traduction |
| Qwen3.8-27B (dense) | 21 Go | 391 | 6 s | Lit les images ; lent sur cette machine |
| Mistral Small 4 | 75 Go | 272 | 30 s environ | Trop lent pour l’instant (voir ci-dessous) |
| Qwen3-Embedding-8B | 8 Go | n. a. | 5 s | Recherche dans les documents |
Mesures réalisées avec llama.cpp et le moteur Vulkan ; « n. a. » : non applicable. Les tailles sont celles des fichiers utilisés ; elles dépendent du niveau de quantification choisi pour chaque modèle.
La vitesse de rédaction dépend du nombre de paramètres actifs, pas de la taille du fichier. gpt-oss-120b, qui occupe 63 gigaoctets, rédige environ cinq fois plus vite que Qwen3.8-27B, qui n’en occupe que 21 mais mobilise tous ses paramètres à chaque jeton. Les mélanges d’experts qui activent peu de paramètres produisent de 50 à 97 jetons par seconde sur cette machine.
Un modèle peut aussi être mal pris en charge par le logiciel sur une machine donnée. Mistral Small 4 ne dépasse pas 3 jetons par seconde sur ce serveur, bien moins que ne le permettrait le nombre de ses paramètres actifs. La cause n’a pas été établie ; l’auteur l’attribue provisoirement à une optimisation inégale des architectures récentes dans le moteur Vulkan, et prévoit un nouvel essai après une mise à jour de llama.cpp. Avant d’adopter un modèle, mesurez sa vitesse sur votre propre machine.
Enfin, les petits modèles rapides se trompent sur les faits précis. En préparant un itinéraire touristique, un modèle à 3 milliards de paramètres actifs a commis des erreurs factuelles. Pour les questions de faits, l’auteur utilise Qwen3.5-122B-A10B, et vérifie la réponse.
Ces chiffres mesurent la vitesse, pas la qualité. Tous les modèles ont répondu juste à une question de contrôle, mais leur qualité n’a pas encore été comparée tâche par tâche. L’auteur prévoit de le faire sur des tâches types (classer un courriel, résumer un contrat, extraire les montants d’une note de frais, traduire), avec un protocole proche de celui de l’annexe D.
Et le français ?
Les recherches menées pour ce livre n’ont trouvé, en octobre 2026, aucune évaluation indépendante de ces modèles en français. Les éditeurs se contentent de lister les langues prises en charge. La seule façon de savoir comment un modèle se comporte sur vos textes est de l’essayer sur vos textes, avec le protocole de l’annexe D.
Cas d’entreprise (expérience réelle de l’auteur). Pour corriger un corpus de textes, l’auteur de ce livre a essayé plusieurs modèles sur sa carte graphique de 24 gigaoctets (→ chapitre 12). Mistral Small 3.2, un modèle de 24 milliards de paramètres pourtant réputé, réécrivait les phrases au lieu de se contenter d’en corriger les fautes : il a été écarté. Le modèle retenu, Qwen3.8-27B, travaille au sein d’une chaîne en trois étapes. Grammalecte, un correcteur libre fondé sur des règles, traite d’abord l’orthographe et la grammaire ; le modèle relit ensuite le texte ; Grammalecte repasse enfin pour la typographie. Évaluée le 7 septembre 2026 sur la carte graphique, la chaîne a corrigé 36 fautes sur 43, sans dérive, c’est-à-dire sans réécriture non demandée. Sur le serveur de 128 gigaoctets (→ chapitre 14), elle fonctionne avec Qwen3.6-35B-A3B, un mélange d’experts plus rapide sur cette machine que les modèles denses ; sa qualité doit encore y être vérifiée avec le même protocole.
Trois leçons valent au-delà de la correction :
- Un modèle réputé peut ne pas convenir à une tâche précise. Seul l’essai sur vos propres données le dit.
- Plus une tâche demande de fidélité au texte d’origine, plus il faut vérifier que le modèle ne prend pas d’initiatives.
- Associer le modèle à des outils fondés sur des règles, qui ne peuvent rien inventer, rend la chaîne plus fiable que le modèle seul.
La quantification en pratique
Le format Q4_K_M est le compromis le plus courant entre taille et qualité. Si la mémoire le permet, Q8_0 conserve davantage de précision. gpt-oss a été entraîné directement dans un format à 4 bits, MXFP4, qu’il vaut mieux conserver tel quel. Évitez de recompresser un fichier déjà compressé : la documentation de llama.cpp prévient que la qualité peut s’en ressentir fortement10.
Les modèles se succèdent tous les quelques mois. Notez dans votre AGENTS.md ou dans votre documentation interne la version exacte de chaque modèle en service. Avant d’en adopter un nouveau, repassez le banc d’essai de l’annexe D.
La jauge. Un mélange d’experts d’environ 120 milliards de paramètres est adapté à une machine de 128 gigaoctets pour un usage polyvalent. Un modèle de 7 ou 8 milliards de paramètres est sous-dimensionné pour servir d’agent. Un modèle de 284 milliards compressé à 2 bits est surdimensionné pour cette machine : il y tient mal et y perd en qualité.
Exercice. Choisissez deux modèles candidats dans le tableau, selon vos usages. Faites-leur passer le protocole de l’annexe D sur vos propres documents avant de décider.
Notes
OpenAI, 5 août 2025 : https://openai.com/index/introducing-gpt-oss/ ; Mistral AI, 16 mars 2026 : https://mistral.ai/news/mistral-small-4/ ; The Decoder, sur la licence de Gemma 4 : https://the-decoder.com/googles-gemma-4-is-now-available-with-apache-2-0-licensing-for-the-first-time/ ; fiches Hugging Face des modèles cités.↩︎
Licence de Qwen3.8-Flash-Next : https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/main/LICENSE ; politique d’usage de Llama 4 : https://dev.meta.ai/llama/llama4/use-policy.↩︎
David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎
https://huggingface.co/openai/gpt-oss-120b ; https://huggingface.co/mistralai/Mistral-Small-4-119B-2603 ; https://huggingface.co/unsloth/Mistral-Small-4-119B-2603-GGUF ; https://huggingface.co/Qwen/Qwen3.5-122B-A10B ; https://huggingface.co/Qwen/Qwen3-Coder-Next ; https://huggingface.co/google/gemma-4-31B-it ; https://huggingface.co/zai-org/GLM-4.5-Air ; https://huggingface.co/Qwen/Qwen3.8-27B.↩︎
https://dev.classmethod.jp/en/articles/dgx-spark-deepseek-v4-flash-0731-llama-cpp/ (2 août 2026).↩︎
Comparatif des modèles de reconnaissance de texte, 27 septembre 2026 : https://wz-it.com/en/blog/local-vlm-ocr-models/.↩︎
https://huggingface.co/openai/whisper-large-v3 ; https://huggingface.co/mistralai/Voxtral-Small-24B-2507 ; Mistral AI, 4 février 2026 : https://mistral.ai/news/voxtral-transcribe-2.↩︎
https://huggingface.co/BAAI/bge-m3 ; https://huggingface.co/Qwen/Qwen3-Embedding-8B ; https://huggingface.co/nomic-ai/nomic-embed-text-v1.5.↩︎
David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎
https://github.com/ggml-org/llama.cpp/blob/master/tools/quantize/README.md.↩︎