« L’API nous coûte X € par mois, alors qu’un GPU local, c’est gratuit. » Cette phrase déclenche plus de mauvaises décisions d’infrastructure que n’importe quelle autre. Ce guide n’est pas un plaidoyer pro-local : c’est une comparaison honnête du coût total de possession (TCO), avec les coûts cachés des deux côtés, et un critère de décision qui n’est pas « lequel est le moins cher ».
Le calcul séduisant — et trompeur
Le raisonnement classique : on regarde la facture API mensuelle, on la compare au prix d’un GPU, et le local gagne « parce qu’après l’achat, c’est gratuit ». Le problème : l’API et l’auto-hébergé n’ont pas la même structure de coût.
- API : coût fixe ≈ 0, coût marginal par requête. Vous payez exactement ce que vous consommez.
- Auto-hébergé : coût fixe élevé (matériel + opérations), coût marginal ≈ 0. Vous payez la capacité, qu’elle serve ou non.
Comparer un coût marginal à un coût fixe sans tenir compte du volume, c’est comparer un loyer à un achat immobilier en ne regardant que la mensualité.
Les coûts cachés de l’auto-hébergé
Matériel et amortissement
Le GPU est un capex à amortir, pas un coût nul. Un nœud d’inférence sérieux se chiffre en milliers d’euros, à répartir sur 2 à 4 ans — et la valeur de revente d’un GPU IA chute vite.
Électricité et refroidissement
Un nœud always-on consomme 24/7, charge ou pas. À l’échelle d’une année, l’électricité (et le refroidissement) devient une ligne réelle, surtout là où le kWh est cher.
Maintenance et mises à jour
Drivers, runtime d’inférence, formats de quantization, nouveaux modèles : la pile bouge en permanence. Une mise à jour qui casse la production, c’est du temps d’ingénieur — et parfois une indisponibilité.
Disponibilité et latence
En auto-hébergé, il n’y a pas de SLA : une panne est votre problème, à 3 h du matin si besoin. La latence et la tenue en charge ne sont pas garanties par un tiers — c’est à vous de les obtenir.
Le temps humain — le coût le plus sous-estimé
C’est le poste qui fait basculer la plupart des calculs. La compétence opérationnelle nécessaire pour faire tourner un LLM en production de façon fiable n’est pas gratuite. Un format de quantization qui fuit en mémoire, c’est plusieurs jours de debug avant de trouver le bon réglage. Si cette compétence n’est pas déjà chez vous, le « gratuit » du local devient très cher.
Les coûts cachés de l’API
Le coût marginal qui s’envole
L’avantage de l’API (payer à l’usage) devient un défaut à fort volume : à plusieurs millions de requêtes, le coût par token finit par dominer toute autre considération.
Confidentialité et souveraineté
Chaque requête envoie vos données chez un tiers, souvent hors de votre juridiction. Pour des données sensibles ou réglementées, ce n’est pas une question de prix mais de contrôle.
Lock-in et changements de prix
Votre coût dépend d’une grille tarifaire que vous ne maîtrisez pas, et migrer d’un fournisseur à l’autre a un coût. Vous héritez aussi des limites de débit (rate limits) et des quotas du fournisseur.
Le point de bascule : le volume
Tout se joue sur le croisement entre un coût fixe (auto-hébergé) et un coût qui croît avec l’usage (API) :
Des migrations bien menées montrent des baisses spectaculaires sur le seul coût machine (voir notre étude de cas de migration et notre benchmark des coûts LLM). Mais ces chiffres n’incluent jamais les heures d’ingénieur — qui sont précisément ce qui rend l’opération rentable… ou non.
Quand l’API gagne
- Volume faible ou erratique : rien à amortir, vous payez juste l’usage.
- Pas d’équipe ops : vous achetez la fiabilité d’un tiers plutôt que de la construire.
- Besoin des modèles frontier les plus récents, sans gérer le matériel.
- Itération produit rapide : on teste sans provisionner d’infrastructure.
- Conformité que l’on préfère déléguer au fournisseur.
Quand l’auto-hébergé gagne
- Volume élevé et stable : assez pour amortir, assez régulier pour ne pas payer du matériel qui dort.
- Confidentialité / souveraineté : les données ne doivent pas sortir.
- Contrôle de la latence et de la pile de bout en bout.
- Vous avez déjà la compétence ops en interne.
- Charge prévisible, pas de dépendance à une grille tarifaire externe.
Notre position
En pratique, nous fonctionnons en hybride : l’auto-hébergé absorbe le volume répétitif (brouillons, classification, tâches internes) via un routeur local, et l’API/Claude intervient pour la supervision et les tâches rares à forte exigence de qualité. Ce n’est pas « local ou cloud », c’est « le bon outil par type de charge ». Voir aussi notre guide optimisation des coûts IA et LLM local en production.
Et nous l’assumons : le local n’est rationnel que si l’on a la compétence opérationnellepour le tenir. Sans elle, l’API n’est pas un aveu de faiblesse — c’est le choix rationnel.
Tableau de décision
| Votre situation | Choix rationnel |
|---|---|
| Volume faible ou imprévisible | API |
| Volume élevé et stable + équipe ops | Auto-hébergé |
| Données sensibles / souveraineté requise | Auto-hébergé (ou cloud privé) |
| Besoin des modèles frontier récents | API |
| Pas de compétence ops interne | API |
| Volume mixte (répétitif + pics) | Hybride |
Conclusion
Le bon critère n’est pas « moins cher ». C’est la combinaison de quatre facteurs : contrôle (sur la pile et les données), volume (assez élevé et stable pour amortir), confidentialité (les données doivent-elles rester chez vous ?) et compétence opérationnelle (avez-vous de quoi le faire tourner ?). Si vous avez les quatre, l’auto-hébergé devient rationnel. S’il en manque un, l’API — ou l’hybride — est probablement la meilleure décision. Le prix unitaire n’est qu’une variable parmi d’autres, et rarement la plus importante.