Pequeña empresa

Small Business Private AI

Un servidor local en el que un equipo puede confiar: redundancia, backup, UPS y 96 GB de VRAM ECC.

fiabilidadredundanciadatos en las instalaciones

actualizado 16 sept 2026

Precio total

$15,889

VRAM

96 GB

RAM

256 GB

Almacenamiento

12 TB

Consumo est.

1144 W

Capacidad de IA

Aproximadamente ~40B de parámetros en fp16, ~80B en 8 bits o ~147B en cuantización de 4 bits.

inferencia de modelo pequeñoinferencia de tamaño medioRAG localinferencia de modelo grandefine-tuning LoRAservicio concurrente

Componentes

GPU
2× NVIDIA RTX A6000memory: 48 GB GDDR6 ECC · bandwidth: 768 GB/s · interface: PCIe 4.0 x16
$8,400Ver precio ↗
CPU
AMD Ryzen Threadripper 7960Xcores: 24 · threads: 48 · clock: 5.3 GHz boost
$1,399Ver precio ↗
Placa base
ASUS Pro WS TRX50-SAGE WIFI (sTR5)chipset: TRX50 · memory: 4 x DDR5 RDIMM ECC, quad-channel · pcie: 4 x PCIe 5.0 x16
$700Ver precio ↗
RAM
Micron 256 GB (8x32) DDR5-4800 ECC RDIMMcapacity: 256 GB (8 x 32) · type: DDR5-4800 RDIMM · ecc: ECC
$1,050Ver precio ↗
Almacenamiento
Kioxia CD8-R 3.84 TB U.2 NVMecapacity: 3.84 TB · bus: PCIe 4.0 U.2 · read: 7000 MB/s
$620Ver precio ↗
Sabrent Rocket 4 Plus 8 TB NVMecapacity: 8 TB · bus: PCIe 4.0 NVMe · read: 7100 MB/s
$700Ver precio ↗
Fuente
Super Flower Leadex Titanium 1600 W 80+ Titaniumcapacity: 1600 W · rating: 80+ Titanium · standard: ATX 3.1
$450Ver precio ↗
Refrigeración
Arctic Liquid Freezer III 360 (AIO)type: liquid AIO 360 mm · dissipation: up to 350 W · noise: 22-33 dBA
$110Ver precio ↗
Red
Intel X710 10GbE SFP+ dual-port NICspeed: 10 GbE · ports: 2 (SFP+) · bus: PCIe 3.0 x8
$180Ver precio ↗
MikroTik CRS309 8x 10GbE SFP+ switchports: 8 x SFP+ 10 GbE + 1 GbE · throughput: non-blocking · form factor: desktop / 1U
$280Ver precio ↗
UPS
Eaton 9PX 3000 RT (online double-conversion, 2U)capacity: 3000 VA / 2700 W · topology: online double-conversion · runtime: ~7 min at full load
$1,600Ver precio ↗
Chasis
SilverStone RM44 4U rackmount (4 dual-slot GPU)form factor: 4U rack · gpu slots: 4 dual-slot · drive bays: 8 x 3.5 + 2 x 2.5
$400Ver precio ↗

Los precios de los componentes se obtienen a mano y van fechados (comprobados el 2026-09-16), sin scraping. Confirma en el sitio del vendedor antes de comprar.

Por qué esta configuración

· Dos RTX A6000: 96 GB de VRAM ECC en tarjetas blower diseñadas para ir una al lado de otra y funcionar 24/7. 70B en fp16, o varios modelos medianos cargados a la vez.
· Almacenamiento U.2 de empresa (endurance 1 DWPD) para el dataset compartido, más un NVMe de 8 TB para modelos y checkpoints.
· Un UPS online de 3000 VA regenera la red: el servidor nunca ve una caída ni un pico, que es lo que desgasta el hardware antes de tiempo.
· Un switch 10 GbE permite que todo el equipo llame a un solo endpoint de inferencia sin saturar el enlace.
· Todo está en las instalaciones: ningún dato sale del edificio, que es la razón primera del self-host para la mayoría de los equipos pequeños.

Ventajas

+ 96 GB de VRAM ECC, diseñado para carga continua
+ Alimentación redundante, almacenamiento con endurance de empresa
+ Control total de los datos: nada sale de las instalaciones

Límites

− Nodo único: una avería de placa base tira el servicio
− La A6000 es Ampere: un servidor de 4 tarjetas Ada es más rápido a igual VRAM
− Necesita un armario ventilado o una pequeña sala de servidores

Alternativas

Más barata

Cuatro RTX 3090 llegan a los mismos 96 GB por mucho menos, a costa de la refrigeración blower y de la garantía.

Equilibrada

Dos RTX 6000 Ada: los mismos 96 GB, alrededor del doble de rendimiento, ~5.000 $ más.

Rendimiento

Cuatro L40S en un chasis de servidor de 8 GPU con alimentación CRPS redundante.

Abrir ↗

Comprar frente a alquilar frente a híbrido

A lo largo de 36 meses, con el consumo de esta configuración y la tarifa de nube en vivo de su GPU.

Alquilar

Comprarla

Hardware: $15,889
Electricidad: $2,480
Costo total de propiedad: $18,369

Alquilarla (nube)

Nube equivalente, mensual: $475/mo
Nube equivalente, total: $17,114
Punto de equilibrio: 39 meses

· El punto de equilibrio son 39 meses, más allá del horizonte de 36 meses, así que alquilar gana en este periodo.

Opciones equivalentes en la nube ↗

Los enlaces «Comprar en Amazon» son de afiliado: como Afiliado de Amazon, Obolith gana con las compras que cumplan los requisitos.

Conceptos en esta página

GPU VRAM Multi-GPU Self-hosting (autoalojamiento)Tasa de utilización Punto de equilibrio Cuantización