Punto de equilibrio
El nivel de volumen o de utilización en el que dos opciones cuestan lo mismo, normalmente API frente a self-hosting, o alquilar frente a comprar una GPU. Por debajo gana una opción; por encima, la otra.
Qué es
Para API frente a self-host: self-host $/token = GPU $/h / (tokens por hora × utilización). Iguálalo al precio de la API y despeja la utilización (o el volumen de tokens) que los hace coincidir.
Por qué importa
Convierte «¿debería hacer self-host?» en un número que puedes contrastar con tu tráfico real. Si estás lejos del cruce, la decisión es fácil; si estás cerca, la deciden los costos más difusos (ingeniería, fiabilidad, arranque en frío).
Ejemplo
H100 a 2,50 $/h, modelo de 70B a 2M de tokens de salida/h. Al 40% de utilización: 3,13 $ / 1M de tokens, peor que un 70B alojado a 0,79 $. El punto de equilibrio está en torno al 65-70% de utilización.