)
Router intelligemment ses appels LLM : ne payer le prix fort que quand c'est nécessaire
Comment un simple proxy local, placé devant Claude Code, permet de réduire la facture d'inférence sans changer les habitudes de développement — et pourquoi le partenariat de SAIL Reply avec Mistral AI en fait une architecture naturelle.
Le coût caché de l'IA
En avril 2026, Uber a confirmé avoir épuisé l'intégralité de son budget IA prévu pour toute l'année 2026 — en seulement quatre mois.
Le déclencheur : le déploiement de Claude Code, l'outil de coding agentique d'Anthropic, auprès de la quasi-totalité des 5 000 ingénieurs de l'entreprise. Selon la presse américaine (Forbes, Bloomberg), les coûts mensuels par ingénieur se sont échelonnés entre 500 et 2 000 dollars, une seule session de travail de deux heures ayant pu, à elle seule, générer une facture de 1 200 dollars. Uber a depuis plafonné l'usage de chaque outil de coding agentique à 1 500 dollars par employé et par mois. Microsoft, de son côté, a fortement réduit l'accès interne à Claude Code au printemps 2026, pour des raisons de coût similaires.
« Une session de coding de deux heures : 1 200 dollars. »
Sur la mésaventure budgétaire d'Uber, rapportée par Forbes et Bloomberg, avril–mai 2026
Uber
Ces épisodes ne sont pas des anecdotes isolées : ils illustrent un problème structurel de la tarification à l'usage des outils de coding agentique. Chaque requête, aussi triviale soit-elle (un message de commit, un renommage de variable, un test unitaire), part par défaut vers le modèle le plus capable disponible, et donc le plus cher. À l'échelle d'une équipe entière, utilisant l'outil toute la journée, la facture grimpe plus vite que prévu par les grilles budgétaires classiques.
Le constat : la majorité des tâches de coding ne demande pas un modèle frontière
Un agent de coding comme Claude Code tourne en continu tout au long de la journée de travail. La grande majorité de ce qu'il traite au quotidien, messages de commit, résumés de fichiers, fonctions bien scopées, tests unitaires, corrections mineures, ne requiert aucune capacité de raisonnement avancée. Seule une fraction des requêtes justifie réellement la puissance d'un modèle frontière : une décision d'architecture, un refactoring transverse, du code touchant à la sécurité ou à l'authentification.
Deux dynamiques rendent ce constat actionnable dès aujourd'hui. L'écart de prix entre un modèle frontière et un modèle plus modeste peut atteindre un facteur 100 entre le moins cher et le plus capable du marché. Et l'usage de plusieurs modèles en production est devenu la norme : plus des trois quarts des équipes en utilisent déjà plusieurs, et plus d'un tiers des entreprises en opèrent cinq ou plus simultanément. Le routing multi-modèle n'est plus une expérimentation isolée, c'est une brique d'infrastructure attendue.
Écart de coût par requête entre paliers de modèles (ordre de grandeur illustratif, échelle logarithmique).
La réponse : un routing intelligent, transparent pour le développeur
Face à ce constat, les équipes SAIL Reply ont mis en place, en interne, un routing intelligent de leurs appels LLM sur leur outillage de développement : chaque requête est envoyée au modèle le moins cher capable de la traiter, et seules les tâches qui l'exigent réellement remontent vers un modèle frontière. Fort de ce retour d'expérience interne, SAIL Reply propose aujourd'hui cette même architecture à ses clients, dans le cadre de ses missions de conseil et d'intégration IA.
Cette architecture s'appuie sur CCR (Claude Code Router), un proxy local open-source qui s'intercale entre Claude Code et plusieurs fournisseurs de modèles. Le développeur continue d'utiliser Claude Code exactement comme avant, même interface en ligne de commande, mêmes commandes ; celui-ci pointe désormais vers un endpoint local qui décide, requête par requête, quel modèle doit répondre. Le changement est invisible au quotidien : on code, on commit, on débogue, le routing se fait en arrière-plan.
CCR a été retenu pour sa maturité et son intégration native à Claude Code, mais le principe s'applique à d'autres outils de coding agentique open-source : le proxy et les règles de routage changent, la logique reste la même.
Une architecture à quatre paliers
Chaque requête est dirigée vers le modèle le moins coûteux capable de répondre.
Comment se déclenche l'escalade
Le routing ne se limite pas à un classement statique par type de tâche : plusieurs règles font remonter automatiquement une requête vers un palier supérieur, sans intervention du développeur.
Ces règles démarrent volontairement simples : l'objectif des premières semaines d'usage est d'observer où les tâches sont mal classées, puis d'affiner les seuils sur des données réelles plutôt que sur des hypothèses de départ.
Mistral AI au cœur de l'architecture
SAIL Reply est partenaire dédié de Mistral AI, engagé dans le développement de solutions d'intelligence artificielle souveraines et personnalisables, avec un contrôle des données et une conformité réglementaire au sein d'infrastructures européennes.
Dans cette architecture, les paliers 0 et 1 (la majorité du volume quotidien) s'appuient sur des modèles Mistral : la part la plus importante du trafic reste traitée par une IA souveraine européenne. L'escalade vers Claude Sonnet ou Opus reste nécessaire pour les tâches qui l'exigent réellement — il ne s'agit pas de souveraineté totale du flux, mais d'une réduction mesurable de la dépendance à un fournisseur unique, et d'un ancrage concret du partenariat Mistral dans l'écosystème quotidien des équipes.
Ce que les retours d'expérience suggèrent
Les benchmarks publiés sur des architectures de routing comparables (RouteLLM, évalué sur MT-Bench) font état de réductions de facture de l'ordre de 60 à 85 %, par rapport à un scénario tout-modèle-premium, sans dégradation perceptible de la qualité, précisément parce que la majorité du trafic ne nécessitait pas ce niveau de capacité.
Limites et points de vigilance
Cette architecture n'est pas sans coûts propres : les paliers bas produisent parfois des diffs plus fragiles sur du code peu scopé, le proxy est une brique d'infrastructure de plus à maintenir (clés API, dérive de configuration), et ce type de routing suppose que l'accord contractuel avec les fournisseurs autorise explicitement le passage par un proxy vers des modèles tiers — un point à vérifier en amont plutôt qu'après coup.
Ce qu'il faut retenir
Cette architecture, SAIL Reply ne se contente pas de l'appliquer à ses propres équipes : elle fait désormais partie de ce que nous proposons à nos clients, du diagnostic initial (où partent vraiment vos tokens aujourd'hui) à la configuration des paliers et des règles d'escalade calibrées sur leur usage réel. Les organisations qui souhaitent évaluer ce potentiel de réduction sur leur propre outillage Claude Code peuvent se rapprocher de SAIL Reply.