Partie 6. Décider et connaître les limites
Chapitre 16. Les limites
Les agents échouent souvent sur les tâches longues
Les mesures disponibles invitent à la prudence.
- Selon le rapport de janvier 2026 de l’Anthropic Economic Index, qui analyse l’usage réel de Claude, les tâches confiées par l’API aboutissent dans 49 % des cas. Ce taux passe d’environ 60 % pour les tâches qui prendraient moins d’une heure à un humain à environ 45 % pour celles qui en prendraient cinq ou plus1.
- Sur TheAgentCompany, un banc d’essai de l’université Carnegie Mellon qui reproduit le travail de bureau d’une entreprise fictive, le meilleur agent testé menait à bien 30 % des tâches sans aide (version de septembre 2025)2.
- Sur CRMArena-Pro, un banc d’essai de Salesforce consacré aux tâches commerciales, les agents réussissaient environ 58 % des tâches en un échange, et 35 % quand la tâche demandait plusieurs échanges. Les auteurs relevaient une prise en compte quasi nulle de la confidentialité des données (mai 2025)3.
Les modèles progressent vite. L’organisme METR mesure la longueur des tâches que les agents réussissent une fois sur deux : elle a doublé environ tous les sept mois entre 2019 et 2025, pour des tâches qui relèvent surtout de la programmation4. Les chiffres ci-dessus seront dépassés. Ils montrent cependant qu’un agent qui travaille seul longtemps se trompe régulièrement, et que vos propres mesures (→ annexe D) valent mieux que n’importe quelle moyenne. Même encadré de près, un agent se trompe : pendant l’installation du serveur de l’auteur, où chaque commande était approuvée, quatre des dix-neuf incidents venaient de l’agent (→ chapitre 14).
L’exemple de SaaStr
SaaStr, une société américaine qui organise des conférences pour les entrepreneurs du logiciel, a remplacé en 2025 une partie de son équipe commerciale par des agents. En janvier 2026, elle annonçait que 20 agents encadrés par l’équivalent de 1,2 personne faisaient le travail d’une équipe d’une dizaine de commerciaux5. Quelques jours plus tard, elle précisait que l’encadrement de cinq agents de prospection prenait 15 à 20 heures par semaine, soit trois à quatre heures par agent6.
En septembre 2026, l’entreprise faisait le bilan : environ trois personnes encadraient une vingtaine d’agents, et la vérification prenait désormais plus de temps que la construction des agents. Elle détaillait ses échecs : un envoi massif de courriels depuis une adresse interdite, une facture erronée, un garde-fou ajouté par un agent de sa propre initiative qui a fait passer à côté d’un contrat signé, et des comptes rendus d’agents inexacts à quatre reprises au cours d’une même session7.
La promesse du post, accomplir seul le travail d’une équipe, n’est donc pas fausse. Elle oublie de dire que le temps humain ne disparaît pas : il passe de la production à l’encadrement et à la vérification.
La sécurité
Aucune protection connue ne met un agent à l’abri de l’injection de prompt (→ chapitre 7). Les skills et les serveurs MCP téléchargés peuvent être malveillants (→ chapitre 10). La seule défense fiable consiste à limiter ce qu’un agent peut faire : un agent qui ne peut qu’écrire des brouillons ne peut pas envoyer vos devis à un inconnu.
Les coûts que l’on oublie
Le prix d’un abonnement ou d’une machine n’est qu’une partie du coût. S’y ajoutent le temps de vérification, le temps d’administration, le temps d’apprentissage, et le coût des erreurs qui passent malgré tout. Mesurez le temps total, correction comprise, comme au chapitre 3, avant de conclure à un gain.
La dépendance
Un fournisseur cloud peut changer ses prix, ses plafonds d’usage et ses conditions. Anthropic a modifié en 2025 sa politique d’utilisation des conversations pour l’entraînement (→ chapitre 2). Les modèles sont remplacés tous les quelques mois.
Le local ne supprime pas toute dépendance : les prix du matériel ont fortement augmenté en 2026 (→ chapitre 12), et une machine achetée aujourd’hui fera tourner moins bien les modèles de demain.
Les standards ouverts réduisent ces risques. Si vos instructions sont dans AGENTS.md, vos procédures dans des skills au format Agent Skills et vos connexions passent par MCP, vous changez de modèle ou de fournisseur sans tout reconstruire.
Les limites d’une machine locale
Le serveur de l’auteur (→ chapitre 14) permet de décrire les limites d’une installation locale, pour la plupart à partir de mesures.
- Sur les machines à mémoire unifiée les moins rapides, les modèles denses sont lents : 10 à 11 jetons par seconde pour 27 à 31 milliards de paramètres.
- Le serveur ne charge qu’un modèle à la fois. Les utilisateurs qui changent de modèle se gênent, et les tâches lourdes du processeur ralentissent d’environ 40 % la lecture des prompts, car processeur et puce graphique partagent la même enveloppe de puissance.
- Une seule machine, sur place, n’a pas de solution de secours. Elle dépend de l’alimentation électrique et de la box Internet du bureau.
- Les pilotes et les moteurs d’inférence changent vite, et une mise à jour peut dégrader les performances. L’auteur ne met à jour les pilotes graphiques que délibérément, et mesure de nouveau la vitesse après chaque changement.
- Le disque s’use à mesure qu’on y écrit. L’auteur a prévu de contrôler son état tous les trois mois.
- Sur les tâches les plus exigeantes, la qualité des modèles locaux reste en deçà des meilleurs services en ligne. C’est l’estimation de l’auteur ; elle n’a pas encore été mesurée.
Aucune de ces limites n’empêche l’usage quotidien. Elles déterminent ce qu’il faut confier à la machine, et ce qu’il vaut mieux garder pour le cloud (→ chapitre 15).
La responsabilité
La note de la CNIL et du CIANum sur l’IA agentique relève que les chaînes de responsabilité entre l’utilisateur, l’éditeur de l’agent et le fournisseur du modèle « demeurent floues »8. Pour vos clients, la question est plus simple : ce que votre entreprise envoie, elle en répond, que le texte ait été rédigé par un salarié ou par un agent.
Ce que l’agent ne fait pas
Un agent ne connaît de votre métier que ce que vous lui avez écrit. Il ne sait pas qu’un client fidèle mérite un délai, qu’un fournisseur traverse une passe difficile, qu’un devis doit être revu parce que le chantier est mal accessible. Ces informations, souvent jamais écrites, restent du côté de ceux qui dirigent l’entreprise. C’est aussi pour cela que la décision finale leur revient.
Exercice. Pendant un mois, notez chaque erreur commise par un agent : la date, la tâche, l’erreur, la façon dont vous l’avez repérée, et la règle (consigne, skill, permission ou hook) que vous avez ajoutée pour l’éviter.
Notes
Anthropic, « Anthropic Economic Index report », 15 janvier 2026 : https://www.anthropic.com/research/anthropic-economic-index-january-2026-report.↩︎
Frank F. Xu et al., TheAgentCompany, version du 10 septembre 2025 : https://arxiv.org/abs/2412.14161.↩︎
Salesforce AI Research, CRMArena-Pro, 24 mai 2025 : https://arxiv.org/html/2505.18878v1.↩︎
METR, « Measuring AI Ability to Complete Long Tasks », version du 25 février 2026 : https://arxiv.org/html/2503.14499v3.↩︎
Lenny’s Newsletter, 1er janvier 2026 : https://www.lennysnewsletter.com/p/we-replaced-our-sales-team-with-20-ai-agents ; SaaStr, 1er janvier 2026 : https://www.saastr.com/jason-lenny-are-back-the-real-future-of-ai-in-sales/.↩︎
SaaStr, 5 janvier 2026 : https://www.saastr.com/right-now-managing-ai-agents-is-about-as-much-work-as-managing-humans/.↩︎
SaaStr, 8 septembre 2026 : https://www.saastr.com/meet-our-agents-what-all-20-actually-do-what-they-refuse-to-do-and-every-place-theyve-failed-us/.↩︎
CNIL et CIANum, note exploratoire sur l’IA agentique, 20 juillet 2026 : https://cnil.fr/fr/ia-agentique-cnil-cianum-note.↩︎