API vs self-hosting
La décision d'infrastructure centrale pour qui fait tourner des LLM à l'échelle : payer au token chez un fournisseur, ou payer à l'heure des GPU que tu opères. La réponse dépend du volume, de l'utilisation et du besoin de contrôle.
Ce que c'est
| API | Self-hosting | |
| Facturation | au token | à la GPU-heure |
| Coût au repos | zéro | à ta charge |
| Effort ops | quasi nul | important |
| Meilleur si | volume variable / faible / mixte | volume élevé, régulier, prévisible |
Pourquoi c'est important
Se tromper coûte cher dans les deux sens : un GPU dédié pour une app irrégulière brûle de l'argent au repos ; une facture au token pour un service régulier gros volume peut valoir 3 à 5x le self-hosting. Trouve ton seuil de rentabilité avant de trancher.