Servidor de empresa

Company AI Server

Um servidor GPU de verdade: 4-8 placas, alimentação redundante, gestão BMC e rede rápida, para uma empresa que passou do ponto de uma workstation.

vazãomonitoramentomanutenibilidade

atualizado 16 de set. de 2026

Preço total

$51,270

VRAM

192 GB

RAM

512 GB

Armazenamento

12 TB

Consumo est.

1947 W

Capacidade de IA

Aproximadamente ~80B de parâmetros em fp16, ~160B em 8 bits ou ~295B em quantização de 4 bits.

inferência de modelo pequenoinferência de tamanho médioRAG localinferência de modelo grandefine-tuning LoRAserviço concorrentetreinamento

Componentes

GPU
4× NVIDIA L40Smemory: 48 GB GDDR6 ECC · bandwidth: 864 GB/s · interface: PCIe 4.0 x16
$36,000Ver preço ↗
CPU
AMD EPYC 9354cores: 32 · threads: 64 · clock: 3.8 GHz boost
$3,200Ver preço ↗
Placa-mãe
Supermicro H13SSL-N (SP5, EPYC 9004)chipset: SoC · memory: 12 x DDR5 RDIMM ECC, up to 3 TB · pcie: 8 x PCIe 5.0 x16 (slots + MCIO fan-out)
$850Ver preço ↗
RAM
Samsung 512 GB (8x64) DDR5-4800 ECC RDIMMcapacity: 512 GB (8 x 64) · type: DDR5-4800 RDIMM · ecc: ECC
$2,550Ver preço ↗
Armazenamento
Kioxia CD8-R 3.84 TB U.2 NVMecapacity: 3.84 TB · bus: PCIe 4.0 U.2 · read: 7000 MB/s
$620Ver preço ↗
Sabrent Rocket 4 Plus 8 TB NVMecapacity: 8 TB · bus: PCIe 4.0 NVMe · read: 7100 MB/s
$700Ver preço ↗
Fonte
FSP CRPS 2+2 redundant, 4000 W usablecapacity: 4000 W usable (2+2 hot-swap) · rating: 80+ Platinum · standard: CRPS redundant
$1,400Ver preço ↗
Refrigeração
Generic 4U high-static-pressure fan wall + shroudstype: rack forced-air · dissipation: chassis-wide · noise: loud (data-center)
$220Ver preço ↗
Rede
NVIDIA ConnectX-6 Dx 100GbEspeed: 100 GbE · ports: 2 (QSFP56) · bus: PCIe 4.0 x16
$650Ver preço ↗
MikroTik CRS309 8x 10GbE SFP+ switchports: 8 x SFP+ 10 GbE + 1 GbE · throughput: non-blocking · form factor: desktop / 1U
$280Ver preço ↗
Nobreak
Eaton 9PX 3000 RT (online double-conversion, 2U)capacity: 3000 VA / 2700 W · topology: online double-conversion · runtime: ~7 min at full load
$1,600Ver preço ↗
Chassi
Supermicro 4U 8-GPU server chassis (CRPS, fan wall)form factor: 4U rack · gpu slots: 8 dual-slot passive · power: 2+2 CRPS redundant
$3,200Ver preço ↗

Os preços dos componentes são obtidos à mão e datados (verificados em 2026-09-16), sem scraping. Confirme no site do vendedor antes de comprar.

Por que esta configuração

· Quatro L40S: 192 GB de VRAM, resfriadas passivamente pela parede de ventiladores do chassi: a densidade e o fluxo de ar em torno dos quais um servidor de verdade é projetado.
· EPYC 9354 dá 128 linhas PCIe 5.0 e 12 canais de memória: o servidor inteiro tem largura de banda, não só as GPUs.
· 512 GB de memória ECC mantêm os modelos grandes e o KV cache deles endereçáveis fora da VRAM quando necessário.
· Alimentação CRPS redundante e um BMC (IPMI / Redfish): power-cycle remoto, telemetria de saúde, fonte hot-swap: a diferença entre um servidor e um PC grande.
· Uma placa 100 GbE está ali para o dia em que isso vira o nó um de um cluster.

Vantagens

+ 192 GB de VRAM, manutenível e monitorado
+ Alimentação redundante, gestão remota
+ Folga até 8 GPUs no mesmo chassi

Limites

− Barulhento: uma sala dedicada com climatização não é opcional
− Ainda um único nó: disponibilidade de nível cluster exige pelo menos dois
− A L40S não tem NVLink: o treinamento de modelos grandes quer placas SXM

Alternativas

Mais barata

Quatro A6000: os mesmos 192 GB, resfriamento blower, cerca da metade do custo de GPU.

Equilibrada

Quatro RTX 6000 Ada: 192 GB com a melhor vazão por placa aquém das SXM de data center.

Desempenho

Vários nós de 8 GPUs com armazenamento compartilhado e uma fabric 100 GbE.

Abrir ↗

Comprar vs alugar vs híbrido

Ao longo de 36 meses, com o consumo desta configuração e a tarifa de nuvem ao vivo da sua GPU.

Híbrido

Ter a placa

Hardware: $51,270
Eletricidade: $4,221
Custo total de propriedade: $55,491

Alugar (nuvem)

Nuvem equivalente, mensal: $2,289/mo
Nuvem equivalente, total: $82,388
Ponto de equilíbrio: 24 meses

· Necessidades de alta disponibilidade geralmente mantêm alguma capacidade de nuvem em reserva mesmo quando comprar faz sentido — o híbrido cobre as duas.
· Ao longo de 36 meses, ter a placa economiza cerca de 26897 $ em relação à nuvem equivalente.

Opções equivalentes na nuvem ↗

Os links "Comprar na Amazon" são de afiliado — como Associado Amazon, o Obolith ganha com as compras qualificadas.

Conceitos nesta página

GPU VRAM Multi-GPU Self-hosting (auto-hospedagem)Taxa de utilização Ponto de equilíbrio Quantização