Self-host vs API
Compare le coût au token entre louer un GPU et payer une API - tout est une question de taux d'utilisation.
Self-host
Coût self-host : $3.13 / 1M
API
L'API est moins chère - de 2.33 $ par 1M tokens. Il faudrait plus d'utilisation pour la battre.
Seuil de rentabilité à ~100% d'utilisation.
Ignore le temps de mise en place, l'ingénierie, la redondance et les cold starts. Modèle indicatif, pas un devis.