GPUs spot vs on-demand: 4,00 $/h em vez de 7,99 $/h, se o seu job sobreviver à interrupção

A capacidade spot costuma ser tratada como um pequeno cupom que o setor de compras talvez negocie um dia. Na Verda, ela é uma tabela de preços separada. Em 2026-10-18, uma B200 SXM custava 4,00 $/h no spot e 7,99 $/h on-demand: mesmo modelo de GPU, mesmo provedor, mesmo dia.

A tarifa menor vem com uma condição: o provedor pode pegar a GPU de volta. Se o seu job consegue absorver isso a baixo custo, o spot é uma economia real. Se não consegue, o preço spot é um modo de falha que por acaso parece barato.

A tabela de preços em 2026-10-18

A Verda lista tarifas spot e on-demand para os mesmos modelos de GPU. Preços em 2026-10-18, por GPU-hora:

A diferença aparece em todas as linhas, do chip Blackwell mais novo até a V100. Nossos dados registram o preço, não os termos. Antes de apostar no spot, consulte a documentação da própria Verda para saber como e quando as interrupções são sinalizadas, o que acontece com o armazenamento anexado ou local quando uma instância é retomada, quão rápido a capacidade costuma voltar e qual configuração de hardware cada via recebe.

Estes são apenas os preços da Verda. O mesmo chip pode custar valores bem diferentes em outros lugares, como mostramos em nossa análise de dispersão entre provedores. Compare provedores antes de comparar vias.

As duas vias subiram entre as nossas duas leituras

Você poderia esperar que o spot reagisse de forma diferente do on-demand quando os preços de tabela mudam. Comparando nossa leitura de 2026-09-16 com a de 2026-10-18, os aumentos percentuais foram iguais ou quase iguais nas duas vias:

A B200 SXM subiu +26% nas duas vias. A H100 SXM subiu +30% nas duas.

Isso compara dois instantâneos. Não diz nada sobre o caminho que os preços percorreram entre essas datas, não estabelece uma fórmula de precificação e não prevê o próximo movimento. A conclusão estreita: entre essas duas leituras, estar no spot não protegeu ninguém do aumento. Escolha o spot porque sua carga tolera interrupção, não como proteção contra reprecificação.

A consequência prática: um job spot em B200 SXM orçado a 3,18 $/h em 2026-09-16 estava precificado a 4,00 $/h em 2026-10-18. Consulte a página de cada GPU ao dimensionar uma execução, não quando a fatura chegar.

O que o spot realmente vende

No spot, você aluga o mesmo modelo de GPU por uma tarifa menor e aceita que o provedor possa retomá-la. Quando isso acontece, o job que está nela para. Dependendo dos termos do provedor, você também pode ter de esperar até que a capacidade spot volte a estar disponível.

O desconto paga a sua tolerância à interrupção, e construir essa tolerância tem custos próprios. Então a comparação útil não é tarifa horária contra tarifa horária. É o custo de um job concluído em cada via, medido com o mesmo escopo dos dois lados.

Observe que um job retomável também beneficia o on-demand: crashes e falhas de nó acontecem lá também, então parte do trabalho de checkpointing não é um custo exclusivo do spot. Conte apenas o esforço adicional que o spot exige.

O spot vence quando a segunda linha sai menor. Uma diferença horária grande como 4,00 $/h contra 7,99 $/h para uma B200 SXM deixa espaço para absorver o overhead, mas não garante economia: um job que é interrompido com frequência e perde muito a cada vez pode acabar custando mais que o on-demand.

Uma pergunta leva você a maior parte do caminho:

Se este processo fosse morto agora, o que eu perderia e quanto tempo levaria para voltar ao ponto em que estava?

Jobs que cabem no spot

Esses jobs sobrevivem à interrupção de maneiras diferentes. Você precisa do mecanismo que se encaixa no seu job, não de todos ao mesmo tempo.

Fine-tuning com checkpoints frequentes. Se pesos, estado do otimizador, posição do data loader e seeds aleatórias são gravados em armazenamento durável com regularidade, e restaurá-los realmente reproduz o estado da execução, uma interrupção custa aproximadamente os passos desde o último checkpoint mais o tempo de reinício. Esse caminho de restauração é a parte a testar, não a presumir. O intervalo define a sua perda no pior caso, e intervalos menores adicionam overhead de escrita, então ajuste-o conforme a frequência com que você é de fato interrompido.

Inferência em batch. Pontuar um dataset, gerar embeddings ou rotular um backlog se divide naturalmente em shards independentes. Se cada shard grava sua saída e se marca como concluído, um worker morto só refaz o shard em que estava.

Varreduras de avaliação. Uma suíte de benchmarks sobre checkpoints ou configurações de hiperparâmetros é um conjunto de muitos jobs pequenos e independentes. Um scheduler que recoloca na fila os itens que falharam transforma uma interrupção em atraso, em vez de resultado perdido.

O que eles têm em comum: o progresso é persistido em algum lugar que sobrevive à instância, e o prazo é medido em horas, não em milissegundos.

Jobs que exigem mais cuidado

Serving em tempo real com uma única instância. Um endpoint de inferência rodando em uma única instância spot cai quando essa instância é retomada, e os usuários veem erros, não uma GPU mais barata. O spot ainda pode sustentar parte de uma frota de serving se você mantiver réplicas redundantes suficientes, tiver failover que desvie o tráfego dos nós retomados e se a sua meta de disponibilidade tolerar a capacidade reduzida enquanto as substitutas sobem e carregam os pesos. Se isso é aceitável depende dos seus requisitos, não do preço.

APIs limitadas por latência, com metas rígidas. Iniciar uma instância substituta e carregar os pesos leva um tempo que uma requisição síncrona não tem. Se você tem um compromisso de disponibilidade ou de latência, verifique o que cada via de fato promete nos termos do provedor antes de decidir qual delas sustenta o serviço. O on-demand não é retomado como o spot, mas também não é automaticamente um SLA.

Execuções longas sem caminho de retomada. Um job de treinamento que só salva no final, ou um pipeline que mantém tudo em memória, fica com o pior das duas vias. Uma interrupção tardia joga fora todas as horas anteriores, e a conta total pode superar o que o on-demand teria custado.

Uma divisão comum: manter uma base de capacidade de serving no on-demand e mandar o trabalho offline ao redor dela (re-embedding, avaliações, fine-tunes noturnos) para o spot.

O paralelo com LLM: a API Batch

Se você usa APIs de LLM, já viu uma troca parecida. Em A API Batch: metade do preço para tudo o que pode esperar, cobrimos a via assíncrona que OpenAI, Anthropic, Google, Mistral e vários agregadores oferecem; o desconto é de 50% nos três grandes. Você abre mão da baixa latência e ganha um desconto de ~50% e limites de taxa bem mais altos. O provedor executa o seu arquivo quando tem capacidade ociosa, com um prazo de conclusão que normalmente é de 24 horas.

A economia rima: um provedor cobra menos pela capacidade de clientes que aceitam garantias mais fracas. A engenharia não se transfere por completo.

Uma carga que combina com a API Batch passou no primeiro teste: ela pode esperar. A versão self-hosted dela só combina com o spot se também puder ser retomada depois de interrompida, e essa parte você mesmo constrói. Para mais economias do lado das APIs, veja Seis alavancas para reduzir sua conta de API de LLM.

Antes de migrar

• Leia os termos do spot. Confirme com a Verda (ou com o provedor que você usa) como as interrupções são sinalizadas, o que acontece com o armazenamento e como a capacidade volta.
• Mate o job de propósito. Pare uma execução de teste manualmente e confirme que ela retoma do progresso salvo, com o estado esperado, sem intervenção.
• Tire o estado da instância. Checkpoints, saídas e marcadores de progresso devem ficar em armazenamento que você confirmou que sobrevive a uma retomada.
• Precifique o job concluído. Use a fórmula acima com o mesmo escopo dos dois lados.
• Dimensione o serving pela necessidade de disponibilidade. Só coloque serving no spot com redundância e failover que atendam à sua meta.
• Compare provedores, não só vias. Um preço spot em um provedor ainda pode perder para um preço on-demand em outro. Consulte os preços ao vivo da B200, da H200 e da H100.

Se você ainda está decidindo se vale a pena alugar GPUs, comece por Sai mais barato fazer self-host ou simplesmente usar uma API?. As horas ociosas podem pesar mais do que a via que você escolher.

Conclusão

Na Verda, em 2026-10-18, uma B200 SXM custava 4,00 $/h no spot contra 7,99 $/h no on-demand, e entre as nossas leituras de 2026-09-16 e 2026-10-18 as duas vias subiram +26%. A tarifa spot dá desconto em horas, não em trabalho concluído: decida pelo custo do job finalizado e mova apenas o trabalho que você já viu sobreviver a uma interrupção forçada.