Self-host frente a API
Compara el costo por token de alquilar una GPU frente a pagar una API: la respuesta depende toda de la utilización.
Self-host
Costo del self-host: $3.13 / 1M
API
La API es más barata: 2.33 $ menos por 1M de tokens. Necesitarías más utilización para superarla.
Punto de equilibrio en ~100% de utilización.
No cuenta el tiempo de montaje, la ingeniería, la redundancia ni los arranques en frío. Un modelo aproximado, no un presupuesto.