Partie 5. Héberger son IA
Chapitre 14. Un serveur d’IA pour une équipe d’une à cinq personnes
Une seule machine peut servir toute une petite équipe. Chacun y accède depuis son navigateur, avec son propre compte, et les agents installés sur les postes de travail s’y connectent comme ils se connecteraient à un service en ligne.
Postes de l'équipe (navigateur) Agents sur les postes
│ (goose, OpenCode, Claude Code)
▼ │
Open WebUI : comptes, historique, │
bases documentaires, connexions MCP │
│ │
└──────────────┬──────────────────────┘
▼
Serveur de modèles : Ollama ou llama-server
│
Machine de 128 Go (palier 2)
Le serveur de modèles
Le mot juste. Traitement par lots continu (continuous batching). Une technique qui permet à un serveur de traiter plusieurs demandes en même temps en les entrelaçant, au lieu de les servir l’une après l’autre. Sans elle, le deuxième utilisateur attend que le premier ait reçu sa réponse.
Quatre logiciels se partagent ce rôle1 :
- Ollama est le plus simple à installer. Par défaut, il traite une seule demande à la fois par modèle ; le réglage
OLLAMA_NUM_PARALLELpermet d’en traiter plusieurs, mais chaque demande simultanée ajoute son propre cache de contexte. Il décharge le modèle cinq minutes après la dernière demande, et le recharger prend du temps : allongez ce délai avecOLLAMA_KEEP_ALIVE. Son API n’a pas d’authentification ; elle ne doit être accessible que depuis votre réseau local. - llama-server, le serveur de llama.cpp, pratique le traitement par lots continu par défaut et protège l’accès par une clé. Il demande un peu plus de familiarité avec la ligne de commande.
- LM Studio propose depuis janvier 2026 un mode serveur sans interface, qui traite plusieurs demandes à la fois et peut exiger une authentification. Sa licence autorise l’usage interne d’une entreprise, mais interdit de le revendre comme service à des tiers.
- vLLM est conçu pour servir de nombreux utilisateurs simultanés. Il ne fonctionne que sous Linux, surtout avec des puces NVIDIA, et sa prise en charge des puces AMD de type Ryzen AI Max reste à confirmer. Pour une TPE, il ne se justifie que sur une machine GB10 très sollicitée.
Les mesures publiées donnent une idée de ce que l’on peut attendre avec plusieurs utilisateurs. Sur un DGX Spark avec vLLM, huit demandes simultanées sur gpt-oss-120b produisent au total 116 à 153 jetons par seconde, contre 61 pour une seule ; dans le même test, Ollama ne gagnait rien à la concurrence. Sur un Mac Studio M5 Max, quatre demandes simultanées font passer le total de 85 à 154 jetons par seconde. Pour les machines AMD, aucune mesure de ce type n’a été publiée2 ; sur le serveur de l’auteur, décrit plus bas, quatre demandes simultanées sur un même modèle se partagent le débit.
Dans une équipe de cinq personnes qui utilisent l’IA par intermittence, les demandes vraiment simultanées restent peu fréquentes. Deux à quatre traitements en parallèle suffisent en général. Vérifiez-le sur votre usage réel en observant les temps d’attente pendant une semaine.
L’interface : Open WebUI
Open WebUI (version 0.12.0 du 10 octobre 2026) s’installe en quelques commandes avec Docker3. L’annexe C détaille l’installation.
Le mot juste. Docker. Un logiciel qui fait tourner une application dans un environnement isolé, appelé conteneur, avec tout ce dont elle a besoin. L’installation, la mise à jour et la sauvegarde s’en trouvent simplifiées.
Ce qu’il apporte à une petite équipe :
- des comptes individuels : le premier compte créé devient administrateur ; les suivants ont le rôle d’utilisateur, ou restent « en attente » jusqu’à validation ;
- des groupes, et des modèles ou des bases documentaires réservés à certains groupes ;
- l’authentification à deux facteurs, depuis octobre 2026 ;
- l’historique des conversations de chacun ;
- les bases documentaires (→ chapitre 5) et les connexions MCP (→ chapitre 7).
Deux précautions. Les « outils » et « fonctions » que l’on peut ajouter à Open WebUI exécutent du code Python sur le serveur : n’installez que ceux dont vous avez lu le code. Et la licence d’Open WebUI impose de conserver son nom et son logo visibles ; seules les installations de 50 utilisateurs au plus, avec une autorisation écrite, ou les clients d’une licence entreprise peuvent les modifier4. Pour une TPE, il suffit de ne pas toucher à l’apparence.
Accéder au serveur hors du bureau
N’ouvrez jamais sur Internet l’accès au serveur de modèles. Pour travailler depuis un chantier ou depuis chez soi, passez par un réseau privé virtuel.
Le mot juste. Port. Un numéro qui désigne un service sur une machine. Ollama répond par défaut sur le port 11434 ; Open WebUI, selon l’installation, sur le port 8080 ou 3000. « Ouvrir un port » sur la box Internet rend ce service joignable depuis l’extérieur.
Le mot juste. Réseau privé virtuel (VPN). Une liaison chiffrée qui relie un appareil distant au réseau du bureau, comme s’il y était branché.
WireGuard, gratuit et open source, fonctionne sur tous les systèmes, téléphones compris. Tailscale, fondé sur WireGuard, simplifie la configuration ; sa formule gratuite est réservée à un usage non commercial, et sa formule professionnelle coûte environ 7 euros par utilisateur et par mois5. Pour chiffrer l’accès à Open WebUI à l’intérieur du réseau, le logiciel Caddy obtient et renouvelle automatiquement les certificats nécessaires6.
Sauvegarder
Les modèles se retéléchargent ; notez simplement lesquels vous utilisez, avec leur version. Ce qu’il faut sauvegarder, ce sont les données d’Open WebUI : la base qui contient les comptes et les conversations, les fichiers déposés et les index des bases documentaires7. Le site gouvernemental Cybermalveillance.gouv.fr recommande de sauvegarder régulièrement, de garder une copie hors ligne et une copie hors des locaux, de chiffrer les sauvegardes et de tester leur restauration8.
Mettre à jour et administrer
Ollama, llama.cpp et Open WebUI publient de nouvelles versions plusieurs fois par mois. Une mise à jour mensuelle suffit, après lecture des notes de version, en gardant la possibilité de revenir à la version précédente.
Comptez une journée pour l’installation si vous êtes à l’aise avec la ligne de commande, préparation et contrôle de la machine non compris, puis un peu de temps chaque mois pour les mises à jour et le contrôle des sauvegardes. Si personne dans l’entreprise n’a ce profil, confiez l’installation à un prestataire et faites-vous former à la maintenance courante.
Le serveur traite des données personnelles dès qu’il contient des courriels ou des dossiers de clients. Inscrivez ce traitement dans le registre des activités de traitement que le règlement général sur la protection des données (RGPD) impose de tenir, définissez qui a accès à quoi, et fixez une durée de conservation des conversations (→ chapitre 15).
Une mise en service réelle : le serveur de l’auteur
Ce qui suit est une expérience réelle. L’auteur dirige seul DAVELI, la micro-entreprise qui publie ce livre et propose ce type d’installation à d’autres TPE. Il a mis en service son propre serveur d’IA en septembre et octobre 2026. Il a consigné l’opération dans un rapport, dont sont tirés tous les chiffres de cette section9.
Le besoin. Il voulait faire tourner de grands modèles sur son propre réseau, sans que les données traitées quittent son bureau, et s’en servir pendant ses déplacements, depuis un ordinateur portable ou un téléphone. Après avoir comparé un Mac mini, un DGX Spark et les machines à base de Ryzen AI Max+ 395 (→ chapitre 12), il a retenu un Bosgame M5 de 128 gigaoctets de mémoire et 2 téraoctets de stockage. Il l’a payé 2 721,95 euros, livraison comprise : c’était l’offre la moins chère de sa catégorie en septembre 2026. Comme il n’est pas assujetti à la TVA, ce prix est son coût définitif.
| Date (2026) | Étape |
|---|---|
| 24 septembre | Commande. Le soir même : étude de faisabilité (seize risques recensés, aucun bloquant) et fiche de contrôle à réception |
| 9 octobre | Livraison : onze jours entre la commande et l’expédition, puis quatre jours de transport |
| 10 octobre | Machine acceptée vers 9 heures, sans aucune non-conformité |
| 12 octobre | De 10 h 20 à 18 h 10 : installation, sécurisation, accès à distance, déploiement et essai de dix-sept modèles |
Le mot juste. Recette. Le contrôle de conformité d’un équipement à sa réception, selon des critères fixés à l’avance. C’est lui qui décide si l’on accepte la livraison.
La réception. L’auteur a préparé la recette avant que la machine arrive. Sa fiche comptait 57 points, chacun avec un critère et une gravité : un défaut bloquant entraînait le renvoi de la machine, un défaut majeur une réclamation écrite, un défaut mineur une simple surveillance. Le déballage a été filmé et la machine inspectée avant toute mise sous tension. Sa mémoire a été testée pendant une nuit entière, puis sa consommation, sa température et son bruit ont été mesurés en charge. Avant d’effacer le système d’origine, l’auteur en a fait une image complète, copiée en deux exemplaires vérifiés : la machine pouvait ainsi retrouver son état d’usine en cas de retour ou de réparation.
Un agent pour piloter l’installation. L’installation a été conduite avec Claude Code, depuis l’ordinateur portable de l’auteur relié au serveur par SSH. Chaque commande était affichée, puis approuvée par l’auteur, comme dans le mode manuel décrit au chapitre 1. Un dossier de pilotage tenait lieu de fichier d’instructions (→ chapitre 5) : le contexte de l’opération, les règles impératives, l’état d’avancement. Certaines commandes étaient interdites ou soumises à confirmation (→ chapitre 9), comme la mise à jour du BIOS, le logiciel intégré à la carte mère qui démarre la machine, ou l’effacement d’un disque. Tout a été consigné : un journal d’avancement, un journal technique sur le serveur et l’historique de chaque fichier de configuration.
Le mot juste. SSH. Une liaison chiffrée qui permet d’administrer une machine à distance en tapant des commandes, comme si l’on était assis devant elle.
Une seconde session de Claude Code tourne en permanence sur le serveur et redémarre avec lui. La fonction Remote Control de Claude Code permet de la piloter depuis un téléphone. L’auteur a essayé ce mode de travail avant d’en dépendre : pendant l’installation, il a approuvé depuis son téléphone la pose d’un pilote sur le serveur. Il devait ensuite partir plusieurs semaines, sans pouvoir toucher la machine.
La configuration. Le serveur fonctionne sous Ubuntu Server, une version de Linux conçue pour les serveurs, sans interface graphique ; une interface graphique aurait consommé 5 à 10 watts de plus au repos. llama-server y tourne en mode « routeur » : un seul point d’accès, un modèle choisi à chaque demande, un seul modèle chargé à la fois. Ollama reste installé pour les scripts existants de l’auteur, dont sa chaîne de correction (→ chapitre 13). Le serveur est branché sur une prise connectée, qui mesure sa consommation et peut couper puis rétablir le courant à distance : c’est le dernier recours si la machine se fige. Depuis l’extérieur, l’accès aux modèles et l’administration passent par Tailscale, et aucun port n’est ouvert sur Internet ; la session de pilotage et la prise se joignent par les services en ligne de leurs éditeurs. Les modèles eux-mêmes n’ont pas accès à Internet.
| Mesure | Résultat |
|---|---|
| Modèles en service | 17, de 8 à 101 Go |
| Vitesse de rédaction | de 3 à 97 jetons par seconde selon le modèle |
| Changement de modèle | de 4 à 75 secondes |
| Consommation au mur | 10 à 11 W au repos ; 46 à 47 W en rédaction ; 130 à 135 W pendant la lecture d’un long prompt |
| Bruit | ventilateurs audibles en charge, presque inaudibles au repos dans une pièce ordinaire |
| Reprise après une coupure de courant | service disponible 31 secondes après le retour du courant |
| Accès depuis un réseau mobile | délai de 63 à 130 millisecondes ; 60 jetons par seconde |
| Coût | 2 721,95 € pour la machine ; 38 € pour un lot de quatre prises connectées |
Le serveur sert dès maintenant à rédiger, à résumer de longs documents, à traiter des données en volume, à programmer et à analyser des images. Un document de 64 000 jetons, soit 100 à 150 pages, est lu en 40 secondes à 2 minutes selon le modèle avant que la réponse commence. Ce chiffre est calculé à partir des mesures, pas mesuré directement, et la vitesse baisse quand le document s’allonge. Les plus gros modèles sont réglés sur un contexte plus court, de 16 000 à 32 000 jetons. Une heure de travail intensif consomme environ 0,12 kilowattheure, soit 2 centimes d’électricité au tarif du chapitre 12.
Les incidents. Dix-neuf événements ont été relevés, et tous ont été traités. Un seul a interrompu le service. Le 12 octobre, le chargement d’un modèle de 79 gigaoctets a saturé la mémoire : le système gardait une copie du fichier en plus de celle qu’utilisait la puce graphique, et le script de test a lancé un second gros modèle par-dessus. Un processus est resté bloqué dans le pilote de la puce graphique, la machine ne pouvait plus être arrêtée normalement, et seule une coupure de courant l’a débloquée. L’interruption a duré 35 minutes, sans dommage. La correction tient en trois règles : lire les modèles sans passer par la mémoire cache du système (le mode dit Direct I/O), vérifier la mémoire libre avant chaque test, et ne jamais charger deux gros modèles à la fois. Le plafond d’environ 105 gigaoctets pour un modèle et son contexte, que l’auteur avait fixé en choisissant ses modèles, ne protégeait pas contre cette double copie.
Un autre incident aurait pu coûter cher pendant le déplacement. La prise connectée était réglée d’usine pour rester éteinte après une panne de courant, ce qui annulait le réglage du BIOS chargé de rallumer la machine. L’auteur a corrigé ce réglage avant le premier essai de coupure, puis l’a vérifié en débranchant la prise du mur ; un simple redémarrage de la machine n’aurait rien montré. Les autres anomalies venaient de l’extérieur du serveur : une clé USB corrompue, un disque USB branché sur le serveur qui doublait sa consommation au repos, un réglage réseau du téléphone.
Quatre erreurs venaient de l’agent : trois scripts défectueux et une lecture erronée de réglages réseau. Trois ont été repérées par vérification avant d’avoir des conséquences. La quatrième était le script de test responsable de la saturation, lancé comme toutes les commandes avec l’accord de l’auteur. Approuver une commande ne suffit pas quand son effet dépend de l’état de la machine : le contrôle de la mémoire libre a été ajouté au script, pour que la vérification ne dépende plus de l’attention de celui qui approuve.
Ce qu’il reste à faire pour une équipe. Le serveur sert aujourd’hui une seule personne. Avant de le partager avec des collaborateurs, le rapport prévoit :
- une interface à comptes devant le serveur, Open WebUI par exemple, et une clé pour les accès des scripts ; dans la configuration actuelle, l’API n’est protégée que par le réseau privé ;
- des règles d’accès qui limitent chaque collaborateur aux services dont il a besoin ;
- un catalogue réduit aux modèles dont la licence autorise l’usage commercial (→ chapitre 13) ;
- l’inscription du traitement au registre RGPD et une durée de conservation des historiques ;
- une sauvegarde régulière, hors des locaux, des configurations, des historiques et des bases documentaires ;
- un onduleur, c’est-à-dire une batterie qui alimente la machine pendant une coupure de courant, et une alerte en cas de panne.
Un seul modèle est chargé à la fois. Des utilisateurs qui alternent entre plusieurs modèles se gênent, puisque chaque changement prend de 4 à 75 secondes ; sur un même modèle, quatre demandes simultanées se partagent le débit. L’auteur en tire trois règles : un « modèle d’équipe » chargé en permanence, les gros modèles réservés à des créneaux, et une carte graphique externe ou une seconde machine au-delà de trois utilisateurs simultanés.
La même opération chez un client. Transposée en prestation pour une TPE, l’opération représente, selon l’estimation de l’auteur, environ quatre à cinq jours de travail effectif, hors délai de livraison. Ils couvrent le cadrage du besoin, l’étude de faisabilité, la recette, la sauvegarde de l’état d’origine, l’installation et la sécurisation, le déploiement des modèles, le raccordement et la formation des utilisateurs, puis une recette finale : essais de coupure de courant et essais depuis l’extérieur. Le budget matériel était de 2 700 à 3 000 euros aux prix de septembre 2026.
Les leçons. Six d’entre elles valent pour toute installation :
- Préparer la recette avant la livraison. Avec des critères écrits à l’avance, la machine a été acceptée en moins de vingt-quatre heures, pendant que les délais de retour couraient encore.
- Mesurer une vitesse de référence dès la réception, puis la mesurer de nouveau après chaque changement (→ annexe D). Après l’installation, l’écart était de 3 % au plus ; au-delà de 10 %, l’auteur considère qu’une régression s’est produite.
- Laisser la mesure trancher, même contre un choix déjà écrit. Le premier guide d’installation prévoyait Debian, une autre version de Linux ; l’essai a montré qu’Ubuntu Server reconnaissait tout le matériel sans ajout, et le guide a été réécrit.
- Tester la reprise après une coupure de courant de bout en bout, en débranchant réellement la prise.
- Essayer le mode dégradé avant d’en dépendre : piloter depuis le téléphone et se connecter depuis un réseau mobile avant de partir.
- Vérifier le travail de l’agent, même quand chaque commande est approuvée.
L’opération montre qu’une très petite entreprise peut faire fonctionner son propre serveur d’IA, de façon fiable, pour moins de 3 000 euros. Elle montre aussi ce que demande ce résultat : plusieurs jours de travail qualifié, et une vérification de chaque étape, y compris de celles que l’agent a menées.
Cas d’entreprise (exemple type). La menuiserie Arnal installe un mini-PC de 128 gigaoctets sur une étagère du bureau. Ollama y fait tourner gpt-oss-120b et le modèle de plongement bge-m3. Open WebUI compte trois comptes et une base documentaire « Tarifs et conditions générales », réservée au groupe « Bureau ». Paul y accède depuis les chantiers par WireGuard, sur son téléphone. Les données d’Open WebUI sont sauvegardées chaque nuit sur un disque du bureau et chaque semaine sur un disque conservé chez Paul.
La jauge. Pour une seule personne, LM Studio sur sa propre machine suffit. De deux à cinq personnes, Ollama ou llama-server avec Open WebUI sont adaptés. vLLM et les serveurs à plusieurs cartes graphiques sont surdimensionnés, sauf usage intensif et simultané.
Point de vigilance. L’API d’Ollama n’a pas d’authentification. Une erreur de configuration qui l’expose sur Internet laisse n’importe qui utiliser votre machine, et lire ce qu’elle traite. Vérifiez depuis l’extérieur du bureau que le port du serveur de modèles n’est pas accessible.
Exercice. Dessinez l’architecture de votre futur serveur : qui y accède, depuis où, avec quels droits, et où partent les sauvegardes.
Notes
Ollama, FAQ : https://docs.ollama.com/faq ; llama.cpp, documentation du serveur : https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md ; LM Studio, version 0.4.0 du 28 janvier 2026 : https://lmstudio.ai/blog/0.4.0 et conditions d’utilisation : https://lmstudio.ai/app-terms ; vLLM : https://docs.vllm.ai/en/latest/getting_started/installation/gpu.html.↩︎
Forum des développeurs NVIDIA, 10 août 2026 : https://forums.developer.nvidia.com/t/measured-inference-benchmarks-on-a-single-dgx-spark-same-harness-across-ollama-llama-cpp-and-vllm-notes-data-published/379766 ; oMLX, 25 avril 2026 : https://omlx.ai/benchmarks/5muhzznz.↩︎
https://github.com/open-webui/open-webui/releases ; https://docs.openwebui.com/getting-started/quick-start ; gestion des rôles : https://docs.openwebui.com/features/authentication-access/rbac/.↩︎
Open WebUI, licence : https://docs.openwebui.com/license ; extensions : https://docs.openwebui.com/features/extensibility/plugin/.↩︎
https://www.wireguard.com/ ; https://tailscale.com/pricing (consulté en octobre 2026 ; prix affiché en dollars, 8 $, converti au cours de la BCE du 9 octobre 2026).↩︎
https://caddyserver.com/docs/automatic-https ; Open WebUI derrière un proxy : https://docs.openwebui.com/reference/https.↩︎
Open WebUI, sauvegardes : https://docs.openwebui.com/tutorials/maintenance/backups.↩︎
Cybermalveillance.gouv.fr, fiche pratique « Les sauvegardes » : https://www.cybermalveillance.gouv.fr/medias/2019/11/Fiche-pratique_sauvegardes.pdf.↩︎
David Bories, Rapport d’opération. Mise en service d’un serveur d’inférence IA local (« Opération M5 »), référence RO-M5-2026-01, 13 octobre 2026, document non publié, rédigé avec l’assistance de Claude à partir des journaux de l’opération. Mesures de consommation relevées au mur par une prise connectée ; vitesses mesurées avec llama-bench (llama.cpp, moteur Vulkan).↩︎