AS -8126GS-NB3RT-01-G2

Descripción

8U 8-GPU – IA Empresarial a Gran Escala (AMD)
Building block multi-GPU para inferencia de IA a gran escala y aplicaciones HPC. Potenciado por NVIDIA HGX™ B300 8-GPU con CPUs AMD EPYC de 5ta generación de alto desempeño.

Beneficios y ventajas:

  • Potenciado por NVIDIA HGX™ B300 8-GPU para entregar densidad de cómputo extrema en inferencia de IA a gran escala y workloads PaaS multi-tenant.
  • CPU AMD EPYC™ de 5ta generación con muy alto conteo de núcleos y frecuencia, ideal para pipelines de servicio de IA intensivos.
  • Memoria DDR5 de alto ancho de banda para hosting de modelos grandes, batching rápido y alta concurrencia.
  • Almacenamiento NVMe de alto desempeño y gran capacidad para carga rápida de modelos, caching y acceso de datos de alto throughput.

Configuración Predeterminada para Entrega Rápida, No aceptan modificaciones.

Model AS -8126GS-NB3RT-01-G2

Workload: Large-Scale AI Inference Serving

GPU NVIDIA HGX™ B300 8-GPU

CPU 128 cores / 3.3GHz (Dual 5th Gen AMD EPYC™ processor)

Memory 3TB DDR5-6400

Storage 61.4TB Total Flash Storage

Networking 8-port XDR800 ó 16-port 400GbE, 4-port 200GbE/NDR200