[{"data":1,"prerenderedAt":522},["ShallowReactive",2],{"guide-fr-spot-vs-on-demand-gpu":3},{"id":4,"title":5,"body":6,"category":510,"description":511,"draft":512,"extension":513,"meta":514,"navigation":515,"path":516,"publishedAt":517,"readingMin":518,"seo":519,"stem":520,"updatedAt":517,"__hash__":521},"guides_fr\u002Fspot-vs-on-demand-gpu.md","GPU spot vs on-demand : 4,00 $\u002Fh au lieu de 7,99 $\u002Fh, si ton job survit à l’interruption",{"type":7,"value":8,"toc":498},"minimark",[9,22,25,30,33,141,144,152,156,159,235,238,241,244,248,251,258,271,274,277,280,286,290,293,299,305,311,314,318,324,330,336,339,343,351,354,414,422,426,477,485,491,495],[10,11,12,13,17,18,21],"p",{},"La capacité spot est souvent vue comme un petit coupon que les achats négocieront peut-être un jour. Chez Verda, c’est une grille tarifaire à part. Le 2026-10-18, un B200 SXM coûtait ",[14,15,16],"strong",{},"4,00 $\u002Fh en spot"," et ",[14,19,20],{},"7,99 $\u002Fh en on-demand"," : même modèle de GPU, même fournisseur, même jour.",[10,23,24],{},"Le tarif réduit vient avec une condition : le fournisseur peut reprendre le GPU. Si ton job encaisse ça à peu de frais, le spot est une vraie économie. Sinon, le prix spot est un mode de défaillance qui a juste l’air bon marché.",[26,27,29],"h2",{"id":28},"la-grille-tarifaire-au-2026-10-18","La grille tarifaire au 2026-10-18",[10,31,32],{},"Verda affiche des tarifs spot et on-demand pour les mêmes modèles de GPU. Prix au 2026-10-18, par GPU-heure :",[34,35,36,52],"table",{},[37,38,39],"thead",{},[40,41,42,46,49],"tr",{},[43,44,45],"th",{},"GPU",[43,47,48],{},"Spot",[43,50,51],{},"On-demand",[53,54,55,71,85,99,113,127],"tbody",{},[40,56,57,65,68],{},[58,59,60],"td",{},[61,62,64],"a",{"href":63},"\u002Fgpu\u002Fb200","B200 SXM",[58,66,67],{},"4,00 $\u002Fh",[58,69,70],{},"7,99 $\u002Fh",[40,72,73,79,82],{},[58,74,75],{},[61,76,78],{"href":77},"\u002Fgpu\u002Fh200","H200 SXM",[58,80,81],{},"2,77 $\u002Fh",[58,83,84],{},"5,55 $\u002Fh",[40,86,87,93,96],{},[58,88,89],{},[61,90,92],{"href":91},"\u002Fgpu\u002Fh100","H100 SXM",[58,94,95],{},"2,13 $\u002Fh",[58,97,98],{},"4,25 $\u002Fh",[40,100,101,107,110],{},[58,102,103],{},[61,104,106],{"href":105},"\u002Fgpu\u002Frtx-6000-ada","RTX 6000 Ada",[58,108,109],{},"0,664 $\u002Fh",[58,111,112],{},"1,33 $\u002Fh",[40,114,115,121,124],{},[58,116,117],{},[61,118,120],{"href":119},"\u002Fgpu\u002Fa6000","RTX A6000",[58,122,123],{},"0,371 $\u002Fh",[58,125,126],{},"0,742 $\u002Fh",[40,128,129,135,138],{},[58,130,131],{},[61,132,134],{"href":133},"\u002Fgpu\u002Fv100","V100",[58,136,137],{},"0,111 $\u002Fh",[58,139,140],{},"0,222 $\u002Fh",[10,142,143],{},"L’écart apparaît sur chaque ligne, de la toute dernière puce Blackwell jusqu’au V100. Nos données enregistrent le prix, pas les conditions. Avant de miser sur le spot, vérifie dans la documentation de Verda comment et quand les interruptions sont signalées, ce qu’il advient du stockage attaché ou local quand une instance est reprise, à quelle vitesse la capacité revient en général, et quelle configuration matérielle reçoit chaque voie.",[10,145,146,147,151],{},"Ce ne sont que les prix de Verda. La même puce peut coûter des montants très différents ailleurs, comme nous l’avons montré dans ",[61,148,150],{"href":149},"\u002Fguides\u002Fsame-gpu-different-price-provider-spread","notre analyse de l’écart de prix entre fournisseurs",". Compare les fournisseurs avant de comparer les voies.",[26,153,155],{"id":154},"les-deux-voies-ont-augmenté-entre-nos-deux-relevés","Les deux voies ont augmenté entre nos deux relevés",[10,157,158],{},"On pourrait s’attendre à ce que le spot réagisse autrement que l’on-demand quand les prix catalogue changent. En comparant notre relevé du 2026-09-16 à celui du 2026-10-18, les hausses en pourcentage étaient identiques ou presque dans les deux voies :",[34,160,161,173],{},[37,162,163],{},[40,164,165,167,170],{},[43,166,45],{},[43,168,169],{},"Spot, 2026-09-16 → 2026-10-18",[43,171,172],{},"On-demand, 2026-09-16 → 2026-10-18",[53,174,175,185,195,205,215,225],{},[40,176,177,179,182],{},[58,178,64],{},[58,180,181],{},"3,18 → 4,00 $\u002Fh (+26 %)",[58,183,184],{},"6,36 → 7,99 $\u002Fh (+26 %)",[40,186,187,189,192],{},[58,188,78],{},[58,190,191],{},"2,14 → 2,77 $\u002Fh (+30 %)",[58,193,194],{},"4,28 → 5,55 $\u002Fh (+29 %)",[40,196,197,199,202],{},[58,198,92],{},[58,200,201],{},"1,64 → 2,13 $\u002Fh (+30 %)",[58,203,204],{},"3,28 → 4,25 $\u002Fh (+30 %)",[40,206,207,209,212],{},[58,208,106],{},[58,210,211],{},"0,541 → 0,664 $\u002Fh (+23 %)",[58,213,214],{},"1,08 → 1,33 $\u002Fh (+23 %)",[40,216,217,219,222],{},[58,218,120],{},[58,220,221],{},"0,296 → 0,371 $\u002Fh (+25 %)",[58,223,224],{},"0,592 → 0,742 $\u002Fh (+25 %)",[40,226,227,229,232],{},[58,228,134],{},[58,230,231],{},"0,086 → 0,111 $\u002Fh (+29 %)",[58,233,234],{},"0,172 → 0,222 $\u002Fh (+29 %)",[10,236,237],{},"Le B200 SXM a augmenté de +26 % dans les deux voies. Le H100 SXM de +30 % dans les deux.",[10,239,240],{},"Ce sont deux instantanés comparés. Ça ne dit rien de la trajectoire des prix entre ces deux dates, ça n’établit pas de formule de tarification, et ça ne prédit pas le prochain mouvement. La conclusion étroite : entre ces deux relevés, être sur du spot n’a protégé personne de la hausse. Choisis le spot parce que ta charge de travail tolère l’interruption, pas comme couverture contre une révision des prix.",[10,242,243],{},"Conséquence pratique : un job spot sur B200 SXM budgété à 3,18 $\u002Fh le 2026-09-16 était facturé 4,00 $\u002Fh le 2026-10-18. Consulte la page de chaque GPU quand tu dimensionnes un run, pas quand la facture arrive.",[26,245,247],{"id":246},"ce-que-le-spot-te-vend-vraiment","Ce que le spot te vend vraiment",[10,249,250],{},"En spot, tu loues le même modèle de GPU à un tarif plus bas et tu acceptes que le fournisseur puisse le reprendre. Quand ça arrive, le job qui tourne dessus s’arrête. Selon les conditions du fournisseur, tu peux aussi devoir attendre avant que de la capacité spot soit de nouveau disponible.",[10,252,253,254,257],{},"La remise paie ta tolérance à l’interruption, et construire cette tolérance a ses propres coûts. La comparaison utile n’est donc pas tarif horaire contre tarif horaire. C’est le coût d’un job ",[14,255,256],{},"terminé"," dans chaque voie, mesuré avec le même périmètre des deux côtés.",[259,260,262,265,268],"obo-callout",{"title":261},"coût d’un job terminé, même périmètre dans les deux voies",[10,263,264],{},"On-demand : tarif on-demand × heures nécessaires au job + le coût des échecs que tu aurais de toute façon (crashs, redémarrages, ta propre redondance)",[10,266,267],{},"Spot : tarif spot × (heures nécessaires au job + heures refaites après interruptions + surcoût des checkpoints) + les mêmes coûts d’échecs de base + l’ingénierie supplémentaire pour rendre le job reprenable + le coût du retard en attendant la capacité",[10,269,270],{},"Valorise le temps d’ingénierie au taux chargé de ton équipe et le retard à ce que coûte réellement un résultat tardif ; pour un job sans échéance, le retard peut coûter presque rien.",[10,272,273],{},"Note qu’un job reprenable profite aussi à l’on-demand : les crashs et pannes de nœuds y arrivent aussi, donc une partie du travail de checkpointing n’est pas un coût propre au spot. Ne compte que l’effort supplémentaire exigé par le spot.",[10,275,276],{},"Le spot gagne quand la deuxième ligne est la plus basse. Un écart horaire large comme 4,00 $\u002Fh contre 7,99 $\u002Fh pour un B200 SXM laisse de la marge pour absorber le surcoût, mais ne garantit pas une économie : un job souvent interrompu qui perd beaucoup à chaque fois peut finir par coûter plus cher qu’en on-demand.",[10,278,279],{},"Une seule question te fait faire l’essentiel du chemin :",[281,282,283],"blockquote",{},[10,284,285],{},"Si ce process était tué maintenant, qu’est-ce que je perdrais, et combien de temps faudrait-il pour revenir où j’en étais ?",[26,287,289],{"id":288},"les-jobs-qui-vont-sur-du-spot","Les jobs qui vont sur du spot",[10,291,292],{},"Ces jobs survivent à l’interruption de manières différentes. Il te faut le mécanisme qui convient à ton job, pas tous à la fois.",[10,294,295,298],{},[14,296,297],{},"Fine-tuning avec checkpoints fréquents."," Si les poids, l’état de l’optimiseur, la position du data loader et les seeds aléatoires sont écrits sur un stockage durable à cadence régulière, et que leur restauration reproduit réellement l’état du run, une interruption te coûte à peu près les steps depuis le dernier checkpoint plus le temps de redémarrage. Ce chemin de restauration est la partie à tester, pas à supposer. L’intervalle fixe ta perte dans le pire cas, et des intervalles plus courts ajoutent du surcoût d’écriture : ajuste-le selon la fréquence réelle de tes interruptions.",[10,300,301,304],{},[14,302,303],{},"Inférence batch."," Scorer un dataset, générer des embeddings ou étiqueter un backlog se découpe naturellement en shards indépendants. Si chaque shard écrit sa sortie et se marque comme terminé, un worker tué ne refait que son shard en cours.",[10,306,307,310],{},[14,308,309],{},"Balayages d’évaluation."," Une suite de benchmarks sur plusieurs checkpoints ou réglages d’hyperparamètres, c’est beaucoup de petits jobs indépendants. Un scheduler qui remet en file les éléments en échec transforme une interruption en retard plutôt qu’en résultat perdu.",[10,312,313],{},"Ce qu’ils ont en commun : la progression est persistée quelque part qui survit à l’instance, et l’échéance se mesure en heures, pas en millisecondes.",[26,315,317],{"id":316},"les-jobs-qui-demandent-plus-dattention","Les jobs qui demandent plus d’attention",[10,319,320,323],{},[14,321,322],{},"Serving temps réel sur une seule instance."," Un endpoint d’inférence qui tourne sur une seule instance spot tombe quand cette instance est reprise, et les utilisateurs voient des erreurs, pas un GPU moins cher. Le spot peut quand même porter une partie d’une flotte de serving si tu as assez de réplicas redondants, un failover qui détourne le trafic des nœuds repris, et un objectif de disponibilité qui tolère la capacité réduite le temps que les remplaçants démarrent et chargent les poids. Que ce soit acceptable dépend de tes exigences, pas du prix.",[10,325,326,329],{},[14,327,328],{},"API sensibles à la latence avec des objectifs stricts."," Démarrer une instance de remplacement et charger les poids prend un temps qu’une requête synchrone n’a pas. Si tu as un engagement de disponibilité ou de latence, vérifie ce que chaque voie promet réellement dans les conditions du fournisseur avant de décider laquelle le soutient. L’on-demand n’est pas repris comme le spot, mais ce n’est pas automatiquement un SLA non plus.",[10,331,332,335],{},[14,333,334],{},"Longs runs sans chemin de reprise."," Un job d’entraînement qui ne sauvegarde qu’à la fin, ou un pipeline qui garde tout en mémoire, cumule le pire des deux voies. Une seule interruption tardive jette toutes les heures qui précèdent, et la facture totale peut dépasser ce qu’aurait coûté l’on-demand.",[10,337,338],{},"Une répartition courante : garder une base de capacité de serving en on-demand et envoyer autour d’elle le travail hors ligne (ré-embedding, évals, fine-tunes nocturnes) sur du spot.",[26,340,342],{"id":341},"le-parallèle-llm-lapi-batch","Le parallèle LLM : l’API Batch",[10,344,345,346,350],{},"Si tu utilises des API LLM, tu as déjà vu un compromis similaire. Dans ",[61,347,349],{"href":348},"\u002Fguides\u002Fbatch-api-half-price","L’API Batch : moitié prix pour tout ce qui peut attendre",", nous avons décrit la voie asynchrone proposée par OpenAI, Anthropic, Google, Mistral et plusieurs agrégateurs ; la remise est de 50 % chez les trois grands. Tu abandonnes la basse latence et tu obtiens une remise de ~50 % et des limites de débit bien plus hautes. Le fournisseur exécute ton fichier quand il a de la capacité libre, avec un délai de complétion en général de 24 heures.",[10,352,353],{},"L’économie est du même ordre : un fournisseur facture la capacité moins cher aux clients qui acceptent des garanties plus faibles. L’ingénierie, elle, ne se transpose pas entièrement.",[34,355,356,368],{},[37,357,358],{},[40,359,360,362,365],{},[43,361],{},[43,363,364],{},"API Batch",[43,366,367],{},"GPU spot",[53,369,370,381,392,403],{},[40,371,372,375,378],{},[58,373,374],{},"Ce à quoi tu renonces",[58,376,377],{},"La basse latence",[58,379,380],{},"La protection contre la reprise",[40,382,383,386,389],{},[58,384,385],{},"Ce que tu obtiens",[58,387,388],{},"~50 % de remise sur le prix par token",[58,390,391],{},"Tarif horaire plus bas (B200 SXM 4,00 $\u002Fh vs 7,99 $\u002Fh chez Verda)",[40,393,394,397,400],{},[58,395,396],{},"Ce que tu dois tolérer",[58,398,399],{},"D’attendre les résultats",[58,401,402],{},"Que ton process soit arrêté en plein run",[40,404,405,408,411],{},[58,406,407],{},"Qui gère la reprise",[58,409,410],{},"Le fournisseur renvoie un fichier de résultats",[58,412,413],{},"Toi : checkpoints, shards, remises en file",[10,415,416,417,421],{},"Une charge de travail adaptée à l’API Batch a passé le premier test : elle peut attendre. Sa version self-hosted ne convient au spot que si elle peut aussi reprendre après un arrêt, et cette partie, tu la construis toi-même. Pour d’autres économies côté API, vois ",[61,418,420],{"href":419},"\u002Fguides\u002Fcut-your-llm-bill","Six leviers pour réduire ta facture d’API LLM",".",[26,423,425],{"id":424},"avant-de-basculer","Avant de basculer",[427,428,429,436,442,448,454,460],"ul",{},[430,431,432,435],"li",{},[14,433,434],{},"Lis les conditions du spot."," Confirme auprès de Verda (ou du fournisseur que tu utilises) comment les interruptions sont signalées, ce qui arrive au stockage et comment la capacité revient.",[430,437,438,441],{},[14,439,440],{},"Tue-le volontairement."," Arrête un run de test manuellement et vérifie qu’il reprend depuis la progression sauvegardée, avec l’état attendu, sans intervention.",[430,443,444,447],{},[14,445,446],{},"Sors l’état de l’instance."," Checkpoints, sorties et marqueurs de progression doivent vivre sur un stockage dont tu as confirmé qu’il survit à une reprise.",[430,449,450,453],{},[14,451,452],{},"Chiffre le job terminé."," Utilise la formule ci-dessus avec le même périmètre des deux côtés.",[430,455,456,459],{},[14,457,458],{},"Dimensionne le serving selon les besoins de disponibilité."," Ne mets du serving sur du spot qu’avec une redondance et un failover qui respectent ton objectif.",[430,461,462,465,466,469,470,473,474,421],{},[14,463,464],{},"Compare les fournisseurs, pas seulement les voies."," Un prix spot chez un fournisseur peut encore perdre face à un prix on-demand ailleurs. Consulte les prix en direct pour le ",[61,467,468],{"href":63},"B200",", le ",[61,471,472],{"href":77},"H200"," et le ",[61,475,476],{"href":91},"H100",[10,478,479,480,484],{},"Si tu hésites encore à louer des GPU, commence par ",[61,481,483],{"href":482},"\u002Fguides\u002Fself-host-vs-api","Est-ce moins cher de self-host, ou d’utiliser simplement une API ?",". Les heures d’inactivité peuvent peser plus que la voie que tu choisis.",[486,487,488],"cta",{"to":63},[10,489,490],{},"Comparer les prix du B200 entre fournisseurs",[26,492,494],{"id":493},"à-retenir","À retenir",[10,496,497],{},"Chez Verda au 2026-10-18, un B200 SXM était à 4,00 $\u002Fh en spot contre 7,99 $\u002Fh en on-demand, et entre nos relevés du 2026-09-16 et du 2026-10-18 les deux voies ont augmenté de +26 %. Le tarif spot remise des heures, pas du travail terminé : décide sur le coût du job complété, et ne déplace que le travail dont tu as déjà vu qu’il survit à un kill.",{"title":499,"searchDepth":500,"depth":500,"links":501},"",2,[502,503,504,505,506,507,508,509],{"id":28,"depth":500,"text":29},{"id":154,"depth":500,"text":155},{"id":246,"depth":500,"text":247},{"id":288,"depth":500,"text":289},{"id":316,"depth":500,"text":317},{"id":341,"depth":500,"text":342},{"id":424,"depth":500,"text":425},{"id":493,"depth":500,"text":494},"how-to","Prix spot vs on-demand chez Verda au 2026-10-18 pour six GPU : quels jobs vont sur du spot, lesquels n’y ont pas leur place, et pourquoi la logique rappelle celle de l’API Batch des LLM.",false,"md",{},true,"\u002Fspot-vs-on-demand-gpu","2026-10-26",7,{"title":5,"description":511},"spot-vs-on-demand-gpu","uArG2ClKQZTwRf1O8NN-AkpG9HlNsBurCtRzkuBPwbk",1793773337115]