GPUs spot vs on-demand: 4,00 $/h en lugar de 7,99 $/h, si tu trabajo sobrevive a una interrupción

La capacidad spot suele tratarse como un pequeño cupón que compras quizá negocie algún día. En Verda, es una lista de precios aparte. El 2026-10-18, una B200 SXM costaba 4,00 $/h en spot y 7,99 $/h on-demand: mismo modelo de GPU, mismo proveedor, mismo día.

La tarifa más baja viene con una condición: el proveedor puede quitarte la GPU. Si tu trabajo puede absorber eso a bajo costo, spot es un ahorro real. Si no puede, el precio spot es un modo de fallo que casualmente parece barato.

La lista de precios del 2026-10-18

Verda publica tarifas spot y on-demand para los mismos modelos de GPU. Precios a 2026-10-18, por GPU-hora:

La diferencia aparece en todas las filas, desde la pieza Blackwell más reciente hasta una V100. Nuestros datos registran el precio, no las condiciones. Antes de apoyarte en spot, consulta la documentación de Verda para saber cómo y cuándo se avisan las interrupciones, qué ocurre con el almacenamiento adjunto o local cuando se recupera una instancia, con qué rapidez suele volver la capacidad y qué configuración de hardware recibe cada vía.

Son solo precios de Verda. El mismo chip puede costar cantidades muy distintas en otros sitios, como mostramos en nuestro análisis de la dispersión de precios entre proveedores. Compara proveedores antes de comparar vías.

Ambas vías subieron entre nuestras dos lecturas

Podrías esperar que spot reaccionara de forma distinta a on-demand cuando cambian los precios de lista. Comparando nuestra lectura del 2026-09-16 con la del 2026-10-18, los aumentos porcentuales fueron iguales o casi iguales en ambas vías:

La B200 SXM subió un +26% en ambas vías. La H100 SXM subió un +30% en ambas.

Esto compara dos instantáneas. No dice nada sobre el camino que siguieron los precios entre esas fechas, no establece una fórmula de precios y no predice el siguiente movimiento. La conclusión acotada: entre estas dos lecturas, estar en spot no protegió a nadie del aumento. Elige spot porque tu carga de trabajo tolera interrupciones, no como cobertura frente a una revisión de precios.

La consecuencia práctica: un trabajo spot en B200 SXM presupuestado a 3,18 $/h el 2026-09-16 costaba 4,00 $/h el 2026-10-18. Consulta la página de cada GPU cuando dimensiones una ejecución, no cuando llegue la factura.

Lo que spot realmente te vende

En spot alquilas el mismo modelo de GPU a una tarifa más baja y aceptas que el proveedor pueda recuperarla. Cuando eso ocurre, el trabajo que corre en ella se detiene. Según las condiciones del proveedor, también puede que tengas que esperar antes de que vuelva a haber capacidad spot disponible.

El descuento paga tu tolerancia a la interrupción, y construir esa tolerancia tiene costos propios. Así que la comparación útil no es tarifa por hora contra tarifa por hora. Es el costo de un trabajo terminado en cada vía, medido con el mismo alcance en ambos lados.

Ten en cuenta que un trabajo reanudable también beneficia a on-demand: allí también ocurren caídas y fallos de nodo, así que parte del trabajo de checkpointing no es un costo exclusivo de spot. Cuenta solo el esfuerzo adicional que exige spot.

Spot gana cuando la segunda línea resulta menor. Una diferencia horaria amplia como 4,00 $/h frente a 7,99 $/h en una B200 SXM deja margen para absorber el overhead, pero no garantiza un ahorro: un trabajo que se interrumpe a menudo y pierde mucho cada vez puede acabar costando más que on-demand.

Una pregunta te lleva casi todo el camino:

Si este proceso se matara ahora mismo, ¿qué perdería y cuánto tardaría en volver a donde estaba?

Trabajos que encajan en spot

Estos trabajos sobreviven a la interrupción de maneras distintas. Necesitas el mecanismo que encaje con tu trabajo, no todos a la vez.

Fine-tuning con checkpoints frecuentes. Si los pesos, el estado del optimizador, la posición del data loader y las semillas aleatorias se escriben en almacenamiento duradero con una cadencia regular, y restaurarlos reproduce de verdad el estado de la ejecución, una interrupción cuesta aproximadamente los pasos desde el último checkpoint más el tiempo de reinicio. Esa ruta de restauración es lo que hay que probar, no dar por supuesto. El intervalo fija tu pérdida en el peor caso, y los intervalos más cortos añaden overhead de escritura, así que ajústalo según la frecuencia con la que realmente te interrumpen.

Inferencia batch. Puntuar un dataset, generar embeddings o etiquetar un backlog se divide de forma natural en shards independientes. Si cada shard escribe su salida y se marca como terminado, un worker que muere solo rehace su shard actual.

Barridos de evaluación. Una suite de benchmarks sobre checkpoints o configuraciones de hiperparámetros son muchos trabajos pequeños e independientes. Un scheduler que reencola los elementos fallidos convierte una interrupción en un retraso en lugar de un resultado perdido.

Lo que comparten: el progreso se persiste en algún lugar que sobrevive a la instancia, y el plazo se mide en horas, no en milisegundos.

Trabajos que requieren más cuidado

Serving en tiempo real con una sola instancia. Un endpoint de inferencia que corre en una única instancia spot cae cuando esa instancia es recuperada, y los usuarios ven errores, no una GPU más barata. Spot aún puede sostener parte de una flota de serving si ejecutas suficientes réplicas redundantes, tienes failover que desvía el tráfico lejos de los nodos recuperados, y tu objetivo de disponibilidad tolera la capacidad reducida mientras arrancan los reemplazos y cargan los pesos. Que eso sea aceptable depende de tus requisitos, no del precio.

APIs limitadas por latencia con objetivos estrictos. Arrancar una instancia de reemplazo y cargar los pesos lleva un tiempo que una petición síncrona no tiene. Si tienes un compromiso de disponibilidad o latencia, comprueba qué promete realmente cada vía en las condiciones del proveedor antes de decidir cuál lo respalda. On-demand no se recupera como spot, pero tampoco es automáticamente un SLA.

Ejecuciones largas sin ruta de reanudación. Un trabajo de entrenamiento que solo guarda al final, o un pipeline que lo mantiene todo en memoria, se lleva lo peor de ambas vías. Una sola interrupción tardía tira a la basura todas las horas anteriores, y la factura total puede superar lo que habría costado on-demand.

Una división habitual: mantén una base de capacidad de serving en on-demand y manda a spot el trabajo offline que la rodea (re-embedding, evals, fine-tunes nocturnos).

El paralelo con los LLM: la API Batch

Si usas APIs de LLM, ya has visto un intercambio parecido. En La API Batch: mitad de precio para todo lo que puede esperar vimos la vía asíncrona que ofrecen OpenAI, Anthropic, Google, Mistral y varios agregadores; el descuento es del 50% en los tres grandes. Renuncias a la baja latencia y obtienes un descuento de ~50% y límites de tasa mucho más altos. El proveedor ejecuta tu archivo cuando tiene capacidad libre, con un plazo de finalización que suele ser de 24 horas.

La economía rima: un proveedor cobra menos por la capacidad a los clientes que aceptan garantías más débiles. La ingeniería no se traslada del todo.

Una carga de trabajo que encaja en la API Batch ha pasado la primera prueba: puede esperar. Su versión self-hosted solo encaja en spot si además puede reanudarse tras detenerse, y esa parte la construyes tú. Para más ahorros del lado de las API, consulta Seis palancas para recortar tu factura de API de LLM.

Antes de cambiar

• Lee las condiciones de spot. Confirma con Verda (o con el proveedor que uses) cómo se avisan las interrupciones, qué pasa con el almacenamiento y cómo vuelve la capacidad.
• Mátalo a propósito. Detén manualmente una ejecución de prueba y confirma que se reanuda desde el progreso guardado, con el estado que esperas, sin intervención.
• Saca el estado de la instancia. Los checkpoints, las salidas y los marcadores de progreso deben ir en almacenamiento que hayas confirmado que sobrevive a una recuperación.
• Calcula el precio del trabajo terminado. Usa la fórmula anterior con el mismo alcance en ambos lados.
• Dimensiona el serving según las necesidades de disponibilidad. Pon el serving en spot solo con redundancia y failover que cumplan tu objetivo.
• Compara proveedores, no solo vías. Un precio spot en un proveedor puede seguir perdiendo frente a un precio on-demand en otro. Consulta los precios en vivo de la B200, la H200 y la H100.

Si todavía estás decidiendo si alquilar GPUs siquiera, empieza por ¿Es más barato hacer self-host o simplemente usar una API?. Las horas ociosas pueden importar más que la vía que elijas.

Conclusión

En Verda, el 2026-10-18, una B200 SXM costaba 4,00 $/h en spot frente a 7,99 $/h on-demand, y entre nuestras lecturas del 2026-09-16 y del 2026-10-18 ambas vías subieron un +26%. La tarifa spot descuenta horas, no trabajo terminado: decide según el costo del trabajo completado y mueve solo el trabajo que ya hayas visto sobrevivir a un kill.