Instância spot
Capacidade sobrando de GPU na nuvem vendida com um desconto forte (muitas vezes 50-80% abaixo do on-demand) que o provedor pode retomar com pouco aviso. Boa para trabalho interrompível, arriscada para serviço ao vivo.
O que é
O provedor aluga barata a capacidade não usada e retoma quando um cliente a preço cheio a quer — às vezes com um aviso de 30-120 segundos, às vezes nenhum. Os preços flutuam com a oferta e a demanda.
Por que importa
O spot encaixa muito bem com fine-tuning, inferência em batch e treinamento com checkpoints — tudo o que pode pausar e retomar. Para serviço ao vivo de baixa latência ele precisa de capacidade de reserva e um tratamento rápido de partida a frio, o que corrói a economia.
Impacto em custo e infraestrutura
Em marketplaces como a Vast.ai, as tarifas spot/interrompíveis de uma GPU de consumo podem ser uma fração do on-demand — mas a disponibilidade e a confiabilidade variam por anfitrião.