Petite entreprise

Small Business Private AI

Un serveur local sur lequel une equipe peut compter : redondance, sauvegarde, onduleur et 96 Go de VRAM ECC.

fiabiliteredondancedonnees sur site

mis à jour le 16 sept. 2026

Prix total

$15,889

VRAM

96 GB

RAM

256 GB

Stockage

12 TB

Conso estimée

1144 W

Capacité IA

Environ ~40 Md de paramètres en fp16, ~80 Md en 8-bit, ou ~147 Md en quantization 4-bit.

inférence petit modèleinférence modèle moyenRAG localinférence gros modèlefine-tuning LoRAservice concurrent

Composants

GPU
2× NVIDIA RTX A6000memory: 48 GB GDDR6 ECC · bandwidth: 768 GB/s · interface: PCIe 4.0 x16
$8,400Voir le prix ↗
CPU
AMD Ryzen Threadripper 7960Xcores: 24 · threads: 48 · clock: 5.3 GHz boost
$1,399Voir le prix ↗
Carte mère
ASUS Pro WS TRX50-SAGE WIFI (sTR5)chipset: TRX50 · memory: 4 x DDR5 RDIMM ECC, quad-channel · pcie: 4 x PCIe 5.0 x16
$700Voir le prix ↗
RAM
Micron 256 GB (8x32) DDR5-4800 ECC RDIMMcapacity: 256 GB (8 x 32) · type: DDR5-4800 RDIMM · ecc: ECC
$1,050Voir le prix ↗
Stockage
Kioxia CD8-R 3.84 TB U.2 NVMecapacity: 3.84 TB · bus: PCIe 4.0 U.2 · read: 7000 MB/s
$620Voir le prix ↗
Sabrent Rocket 4 Plus 8 TB NVMecapacity: 8 TB · bus: PCIe 4.0 NVMe · read: 7100 MB/s
$700Voir le prix ↗
Alimentation
Super Flower Leadex Titanium 1600 W 80+ Titaniumcapacity: 1600 W · rating: 80+ Titanium · standard: ATX 3.1
$450Voir le prix ↗
Refroidissement
Arctic Liquid Freezer III 360 (AIO)type: liquid AIO 360 mm · dissipation: up to 350 W · noise: 22-33 dBA
$110Voir le prix ↗
Réseau
Intel X710 10GbE SFP+ dual-port NICspeed: 10 GbE · ports: 2 (SFP+) · bus: PCIe 3.0 x8
$180Voir le prix ↗
MikroTik CRS309 8x 10GbE SFP+ switchports: 8 x SFP+ 10 GbE + 1 GbE · throughput: non-blocking · form factor: desktop / 1U
$280Voir le prix ↗
Onduleur
Eaton 9PX 3000 RT (online double-conversion, 2U)capacity: 3000 VA / 2700 W · topology: online double-conversion · runtime: ~7 min at full load
$1,600Voir le prix ↗
Chassis
SilverStone RM44 4U rackmount (4 dual-slot GPU)form factor: 4U rack · gpu slots: 4 dual-slot · drive bays: 8 x 3.5 + 2 x 2.5
$400Voir le prix ↗

Les prix composants sont sourcés à la main et datés (vérifiés le 2026-09-16), pas scrapés. Confirme sur le site du vendeur avant d'acheter.

Pourquoi cette config

· Deux RTX A6000 : 96 Go de VRAM ECC dans des cartes blower concues pour etre cote a cote et tourner 24/7. Du 70B en fp16, ou plusieurs modeles moyens charges en meme temps.
· Stockage U.2 entreprise (endurance 1 DWPD) pour le dataset partage, plus un NVMe 8 To pour les modeles et checkpoints.
· Un onduleur online 3000 VA regenere le secteur : le serveur ne voit jamais un creux ni un pic - c'est ce qui use le materiel prematurement.
· Un switch 10 GbE permet a toute l'equipe de taper un seul endpoint d'inference sans saturer le lien.
· Tout est sur site - aucune donnee ne quitte le batiment, ce qui est la raison premiere du self-host pour la plupart des petites equipes.

Avantages

+ 96 Go de VRAM ECC, concu pour la charge continue
+ Alimentation redondante, stockage endurance entreprise
+ Controle total des donnees - rien ne sort des locaux

Limites

− Noeud unique : une panne carte mere coupe le service
− L'A6000 est Ampere - un serveur 4 cartes Ada est plus rapide a VRAM egale
− Demande un placard ventile ou une petite salle serveur

Alternatives

Moins cher

Quatre RTX 3090 atteignent les memes 96 Go pour bien moins cher, au prix du refroidissement blower et de la garantie.

Équilibré

Deux RTX 6000 Ada : memes 96 Go, environ le double de debit, ~5 000 $ de plus.

Performance

Quatre L40S dans un chassis serveur 8 GPU avec alimentation CRPS redondante.

Ouvrir ↗

Acheter vs louer vs hybride

Sur 36 mois, à la conso de cette config et au tarif cloud live de son GPU.

Louer

Le posséder

Matériel: $15,889
Électricité: $2,480
Coût total de possession: $18,369

Le louer (cloud)

Équivalent cloud, mensuel: $475/mo
Équivalent cloud, total: $17,114
Seuil de rentabilité: 39 mois

· Le seuil de rentabilité est à 39 mois - au-delà de l'horizon de 36 mois, donc louer gagne sur cette période.

Équivalent cloud ↗

Les liens « Acheter sur Amazon » sont affiliés - en tant que Partenaire Amazon, Obolith touche une commission sur les achats éligibles.

Concepts de cette page

GPU VRAM Multi-GPU Self-hosting Taux d'utilisation Seuil de rentabilité Quantization