高密度推理服务器 NF5468M5
功能特性
● AI模型训练 高性能
支持 8片NVIDIA V100 32G GPU,通过NVLink 2.0、RDMA、GPUDricet、32G HBM2等四大领先技术,提供强劲计算能力和极致通信延迟,GPU拓扑。
● AI推理计算 高效能
可同时支持20片高效能比的Tesla T4 GPU和24个3.5英寸硬盘,单机可处理600路1080P视频流的结构化应用,将数据保存有效期延长至业界平均水平的9倍。
● AI多场景适配 高可靠
支持10种以上GPU拓扑,且不开机箱即可灵活切换;CPU间通过3条UPI互联,提供业界通信带宽;支持4个2200W 80PLUS铂金电源模块及2+2冗余策略;适配各类AI 应用场景。
技术规格
型号 |
NF5468M5 |
工作温度范围 |
5 - 35°C/41°F - 95°F |
高度 |
4U |
GPU扩展 |
支持8片NVIDIA® Tesla® NVLink & PCIe V100, V100s 支持8片NVIDIA® Quadro RTX 6000, RTX 8000 支持20片NVIDIA® Tesla® T4 支持8片Xilinx Alveo U200 FPGA卡 |
处理器 |
2颗2nd Generation Intel® Xeon® Scalable Processor, 3*UPI |
内存 |
24条2933MHz内存插槽,支持DDR4 ECC 支持高级内存纠错、内存镜像、内存热备等高级功能 |
存储 |
24块2.5/3.5英寸硬盘(其中8个盘位支持NVMe SSD)+ 2片M.2 SSD硬盘; 支持RAID 0、1、10、5、50、6、60等,支持Cache超级电容保护,提供RAID状态迁移、RAID配置记忆等高级功能。 |
I/O扩展槽 |
最大支持20条PCIe 3.0扩展槽,同时内置2条Raid卡专用的PCIe扩展槽。 |
网络 |
双万兆以太网光口,支持虚拟化加速、网络加速、负载均衡等功能 |
电源 |
4个1600W/2000W/2200W 80PLUS认证的铂金电源模块,支持2+2冗余策略。 |
管理 |
集成BMC管理模块,可实现与操作系统无关的远程对服务器的完全控制,包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作,提供服务器健康日记、服务器控制台录屏/回放功能,能够提供电源监控,可支持动态功率封顶。 |
GPU灵活拓扑 |
支持根据不同应用场景灵活切换CPU:GPU的拓扑结构,支持Common、Balanced、Cascade 三种拓扑结构。 |