Annexes
Annexe C. Installation commentée d’Ollama et d’Open WebUI
Cette annexe décrit une installation sur un serveur sous Linux (Ubuntu ou Debian), pour une équipe de quelques personnes. Elle suppose une connaissance élémentaire du terminal. Vérifiez chaque commande dans la documentation officielle au moment de l’installation : les logiciels évoluent vite.
0. Sur une machine à base de Ryzen AI Max+ 395
D’usine, le BIOS de ces machines réserve à la puce graphique une part fixe de la mémoire, retirée au système. Sous Linux, mieux vaut réduire cette réserve au minimum dans le BIOS (1 Go sur la machine de l’auteur) et autoriser le système à prêter la mémoire à la puce graphique à la demande. Sur le serveur de l’auteur (Ubuntu Server 26.04, noyau 7.0), deux paramètres de démarrage portent ce prêt à 120 gigaoctets environ1 :
amdgpu.gttsize=122880 ttm.pages_limit=31457280
Ils s’ajoutent à la ligne GRUB_CMDLINE_LINUX_DEFAULT du fichier /etc/default/grub, puis on lance sudo update-grub et on redémarre. L’auteur fait tourner les modèles avec le moteur Vulkan plutôt qu’avec ROCm, la pile de calcul d’AMD, qu’il réserve à des conteneurs pour préserver la stabilité du système. Ollama choisit ROCm de lui-même s’il le trouve : ajoutez alors Environment="OLLAMA_VULKAN=1" et Environment="OLLAMA_LLM_LIBRARY=vulkan" à son réglage (étape 2), comme sur le serveur de l’auteur.
Dans le BIOS, réglez aussi la remise en marche automatique après une coupure de courant.
1. Installer Ollama
# Script d'installation officiel : installe Ollama comme service système
curl -fsSL https://ollama.com/install.sh | sh
2. Régler Ollama
sudo systemctl edit ollama.service
Dans l’éditeur qui s’ouvre, ajoutez :
[Service]
# Deux demandes traitées en même temps ; chacune a son propre cache de contexte
Environment="OLLAMA_NUM_PARALLEL=2"
# Garder le modèle en mémoire 24 heures après la dernière demande,
# pour éviter de le recharger (plusieurs dizaines de secondes pour 65 Go)
Environment="OLLAMA_KEEP_ALIVE=24h"
# Fenêtre de contexte de 64 000 jetons, recommandée pour les agents
Environment="OLLAMA_CONTEXT_LENGTH=65536"
# Compression du cache de contexte, qui divise environ sa taille par deux
Environment="OLLAMA_FLASH_ATTENTION=1"
Environment="OLLAMA_KV_CACHE_TYPE=q8_0"
Puis redémarrez le service :
sudo systemctl daemon-reload
sudo systemctl restart ollama
Ollama n’écoute alors que sur la machine elle-même (adresse 127.0.0.1), ce qui est le réglage le plus sûr. Si des agents installés sur d’autres postes doivent s’y connecter, ajoutez Environment="OLLAMA_HOST=0.0.0.0" et limitez l’accès au réseau du bureau avec le pare-feu (étape 6).
3. Télécharger les modèles
ollama pull gpt-oss:120b # modèle principal, environ 65 Go
ollama pull bge-m3 # modèle de plongement multilingue, pour les bases documentaires
ollama list # vérifier les modèles installés
4. Installer Docker puis Open WebUI
Installez Docker en suivant la documentation officielle (docs.docker.com). Lancez ensuite Open WebUI :
docker run -d \
--network=host \
-v open-webui:/app/backend/data \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
-e WEBUI_SECRET_KEY="remplacez-par-une-longue-chaine-aleatoire" \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
--network=hostfait partager à Open WebUI le réseau de la machine : il joint Ollama sur 127.0.0.1 et répond sur le port 8080.- Le volume
open-webuicontient toutes les données : comptes, conversations, fichiers, index. C’est lui qu’il faut sauvegarder. WEBUI_SECRET_KEYsert à signer les sessions des utilisateurs. Notez la valeur choisie et réutilisez-la à chaque mise à jour.
Sous macOS ou Windows, installez plutôt l’application Ollama, qui utilise directement la puce graphique, et lancez Open WebUI avec Docker Desktop en remplaçant les deux premières options par -p 3000:8080 --add-host=host.docker.internal:host-gateway et l’adresse d’Ollama par http://host.docker.internal:11434. L’interface répond alors sur le port 3000.
5. Premier réglage d’Open WebUI
- Ouvrez
http://adresse-du-serveur:8080depuis un poste du bureau et créez le premier compte : il devient administrateur. - Dans les réglages d’administration, faites en sorte que les nouveaux comptes restent « en attente » jusqu’à votre validation.
- Créez les comptes de l’équipe et, si besoin, des groupes.
- Activez l’authentification à deux facteurs.
- Dans les réglages des documents, choisissez bge-m3 comme modèle de plongement.
- Créez une première base de connaissances et réservez-la au groupe concerné.
6. Limiter l’accès au réseau du bureau
Avec le pare-feu ufw, en remplaçant 192.168.1.0/24 par la plage d’adresses de votre réseau :
sudo ufw default deny incoming
sudo ufw allow from 192.168.1.0/24 to any port 22 proto tcp # administration
sudo ufw allow from 192.168.1.0/24 to any port 8080 proto tcp # Open WebUI
# Seulement si des agents d'autres postes utilisent Ollama :
# sudo ufw allow from 192.168.1.0/24 to any port 11434 proto tcp
sudo ufw enable
Pour un accès hors du bureau, passez par un VPN (→ chap. 14) ; n’ouvrez aucun port sur votre box Internet.
7. Sauvegarder chaque nuit
#!/bin/sh
# /usr/local/bin/sauvegarde-openwebui.sh
# Arrêt bref d'Open WebUI pour obtenir une copie cohérente de sa base
docker stop open-webui
docker run --rm -v open-webui:/data -v /srv/sauvegardes:/backup alpine \
tar czf /backup/openwebui-$(date +%F).tar.gz -C /data .
docker start open-webui
Rendez le script exécutable (chmod +x), planifiez-le chaque nuit avec cron (→ chap. 9), copiez régulièrement le dossier /srv/sauvegardes sur un support hors des locaux, et testez une restauration au moins une fois.
8. Mettre à jour
# Ollama : relancer le script d'installation
curl -fsSL https://ollama.com/install.sh | sh
# Open WebUI : récupérer la nouvelle image, puis recréer le conteneur
docker pull ghcr.io/open-webui/open-webui:main
docker stop open-webui && docker rm open-webui
# puis relancer la commande de l'étape 4, avec la même WEBUI_SECRET_KEY
Faites une sauvegarde juste avant chaque mise à jour.
9. Tester la reprise après une coupure de courant
Débranchez réellement la machine, ou la multiprise, du mur ; un arrêt logiciel ne suffit pas. Rebranchez, chronométrez le retour de l’accès SSH, d’Ollama et d’Open WebUI, puis faites une demande de test. Si la machine est branchée sur une prise connectée, vérifiez que celle-ci se rallume d’elle-même : sur le serveur de l’auteur, le réglage d’usine de la prise la laissait éteinte et annulait celui du BIOS (→ chap. 14).
Notes
Paramètres relevés dans le rapport d’opération de l’auteur (→ chap. 14 et bibliothèque des sources). Ils dépendent de la version du noyau ; vérifiez-les dans la documentation d’AMD pour Strix Halo : https://rocm.docs.amd.com/en/latest/how-to/system-optimization/strixhalo.html.↩︎