Self-host vs API
Compare o custo por token de alugar uma GPU vs pagar uma API — a resposta é toda sobre utilização.
Self-host
Custo do self-host: $3.13 / 1M
API
A API é mais barata — 2.33 $ a menos por 1M de tokens. Você precisaria de mais utilização para superá-la.
Ponto de equilíbrio em ~100% de utilização.
Ignora o tempo de configuração, a engenharia, a redundância e os cold starts. Um modelo aproximado, não um orçamento.