Pequena empresa
Small Business Private AI
Um servidor local em que um time pode confiar: redundância, backup, nobreak e 96 GB de VRAM ECC.
confiabilidaderedundânciadados no local
atualizado 16 de set. de 2026Preço total
$15,889
VRAM
96 GB
RAM
256 GB
Armazenamento
12 TB
Consumo est.
1144 W
Capacidade de IA
Aproximadamente ~40B de parâmetros em fp16, ~80B em 8 bits ou ~147B em quantização de 4 bits.
inferência de modelo pequenoinferência de tamanho médioRAG localinferência de modelo grandefine-tuning LoRAserviço concorrente
Componentes
- GPU2× NVIDIA RTX A6000memory: 48 GB GDDR6 ECC · bandwidth: 768 GB/s · interface: PCIe 4.0 x16$8,400Ver preço ↗
- CPUAMD Ryzen Threadripper 7960Xcores: 24 · threads: 48 · clock: 5.3 GHz boost$1,399Ver preço ↗
- Placa-mãeASUS Pro WS TRX50-SAGE WIFI (sTR5)chipset: TRX50 · memory: 4 x DDR5 RDIMM ECC, quad-channel · pcie: 4 x PCIe 5.0 x16$700Ver preço ↗
- RAMMicron 256 GB (8x32) DDR5-4800 ECC RDIMMcapacity: 256 GB (8 x 32) · type: DDR5-4800 RDIMM · ecc: ECC$1,050Ver preço ↗
- ArmazenamentoKioxia CD8-R 3.84 TB U.2 NVMecapacity: 3.84 TB · bus: PCIe 4.0 U.2 · read: 7000 MB/s$620Ver preço ↗Sabrent Rocket 4 Plus 8 TB NVMecapacity: 8 TB · bus: PCIe 4.0 NVMe · read: 7100 MB/s$700Ver preço ↗
- FonteSuper Flower Leadex Titanium 1600 W 80+ Titaniumcapacity: 1600 W · rating: 80+ Titanium · standard: ATX 3.1$450Ver preço ↗
- RefrigeraçãoArctic Liquid Freezer III 360 (AIO)type: liquid AIO 360 mm · dissipation: up to 350 W · noise: 22-33 dBA$110Ver preço ↗
- RedeIntel X710 10GbE SFP+ dual-port NICspeed: 10 GbE · ports: 2 (SFP+) · bus: PCIe 3.0 x8$180Ver preço ↗MikroTik CRS309 8x 10GbE SFP+ switchports: 8 x SFP+ 10 GbE + 1 GbE · throughput: non-blocking · form factor: desktop / 1U$280Ver preço ↗
- NobreakEaton 9PX 3000 RT (online double-conversion, 2U)capacity: 3000 VA / 2700 W · topology: online double-conversion · runtime: ~7 min at full load$1,600Ver preço ↗
- ChassiSilverStone RM44 4U rackmount (4 dual-slot GPU)form factor: 4U rack · gpu slots: 4 dual-slot · drive bays: 8 x 3.5 + 2 x 2.5$400Ver preço ↗
Os preços dos componentes são obtidos à mão e datados (verificados em 2026-09-16), sem scraping. Confirme no site do vendedor antes de comprar.
Por que esta configuração
- · Duas RTX A6000: 96 GB de VRAM ECC em placas blower feitas para ficar lado a lado e rodar 24/7. 70B em fp16, ou vários modelos médios carregados ao mesmo tempo.
- · Armazenamento U.2 corporativo (endurance de 1 DWPD) para o dataset compartilhado, mais um NVMe de 8 TB para modelos e checkpoints.
- · Um nobreak online de 3000 VA regenera a rede: o servidor nunca vê uma queda nem um pico, que é o que desgasta o hardware antes da hora.
- · Um switch 10 GbE deixa o time todo acessar um único endpoint de inferência sem saturar o link.
- · Tudo fica no local: nenhum dado sai do prédio, que é a razão primeira do self-host para a maioria dos times pequenos.
Vantagens
- + 96 GB de VRAM ECC, feito para carga contínua
- + Alimentação redundante, armazenamento com endurance corporativo
- + Controle total dos dados: nada sai das instalações
Limites
- − Nó único: uma falha de placa-mãe derruba o serviço
- − A A6000 é Ampere: um servidor de 4 placas Ada é mais rápido com a mesma VRAM
- − Precisa de um armário ventilado ou uma pequena sala de servidores
Alternativas
Mais barata
Quatro RTX 3090 alcançam os mesmos 96 GB por bem menos, ao custo do resfriamento blower e da garantia.
Equilibrada
Duas RTX 6000 Ada: os mesmos 96 GB, cerca do dobro da vazão, ~5.000 $ a mais.
Comprar vs alugar vs híbrido
Ao longo de 36 meses, com o consumo desta configuração e a tarifa de nuvem ao vivo da sua GPU.
Ter a placa
- Hardware
- $15,889
- Eletricidade
- $2,480
- Custo total de propriedade
- $18,369
Alugar (nuvem)
- Nuvem equivalente, mensal
- $475/mo
- Nuvem equivalente, total
- $17,114
- Ponto de equilíbrio
- 39 meses
- · O ponto de equilíbrio é de 39 meses — além do horizonte de 36 meses, então alugar vence neste período.
Os links "Comprar na Amazon" são de afiliado — como Associado Amazon, o Obolith ganha com as compras qualificadas.