GPU-heure
L'unité de location de calcul GPU : le coût d'un GPU pendant une heure. Obolith ramène chaque offre au prix par GPU-heure pour comparer équitablement les instances multi-GPU.
Ce que c'est
Les fournisseurs listent des instances qui groupent 1, 2, 4 ou 8 GPU. Pour les comparer, il faut prix de l'instance / nombre de GPU. Un « 8x H100 à 22 $/h » = 2,75 $ par GPU-heure ; un « 1x H100 à 2,40 $/h » est moins cher par GPU.
Pourquoi c'est important
Le prix à la GPU-heure n'est que l'affichage. Ton coût réel au token dépend aussi de la vitesse de génération et de l'utilisation - un GPU plus rapide à tarif horaire plus élevé est souvent moins cher au token.
Impact coût & infrastructure
Pour un même GPU, les prix on-demand varient de ~2 à 3x entre clouds spécialisés, et le spot peut être encore 50 à 70 % moins cher - au risque d'être repris.