继续梳理GPU相关知识。

最近看超微的 HGX B200、HGX B300 服务器，除了GPU、硬盘和一排高速网口，前面经常还能看到标着 BlueField-3 的卡。很多人把它简称为 BF Card。

它看起来像网卡，卡上又印着英伟达的标志，很容易让人以为这是另一种GPU加速卡。

先说结论：

BF Card 指英伟达 BlueField 系列卡。它原本是迈络思（Mellanox）开发的网络处理产品；2020年英伟达收购迈络思后，BlueField成为英伟达的数据中心网络产品。它不是GPU，也不负责训练模型；它是一张带处理器、内存和独立管理能力的智能网卡，主要替CPU处理网络、存储、安全和虚拟化这些基础设施工作。

如果说GPU是厨房里炒菜最快的大厨，那么 BlueField 就是守在门口的物流主管：收货、分拣、检查、登记、放行，都先在门口处理好，别让大厨停下来搬箱子。

这就是 BF Card 最容易理解的作用。

它不只是一张网卡，更像一台装在卡上的小电脑

普通网卡最核心的任务，是把服务器接入网络，把数据包收进来、发出去。

BlueField-3 在高速网卡的基础上，又塞进了一套完整的计算系统。根据具体型号，它可以包括：

• 8核或16核Arm处理器；
• 16GB或32GB板载DDR5内存；
• ConnectX-7 网络控制器；
• PCIe 5.0 x16 主机接口；
• 最高400Gb/s的以太网或InfiniBand连接；
• 板载闪存、SSD、独立BMC和1GbE带外管理口。

所以从硬件上看，它确实很像一台缩小后塞进PCIe卡里的服务器。

但要注意，这套小电脑并不一定始终开着干活。BlueField-3 DPU 默认工作在 DPU Mode，Arm处理器会运行自己的Linux和基础设施服务；BlueField-3 SuperNIC 默认则工作在 NIC Mode，此时Arm核心不参与工作，它更像一张专门为AI集群优化的超高速智能网卡。

这里要分清“产品类型”和“运行模式”：SuperNIC与DPU是两类不同的BlueField-3产品，不是同一张卡的两个名字；但BlueField-3又可以在 NIC Mode 和 DPU Mode 之间切换。SuperNIC默认使用 NIC Mode，DPU默认使用 DPU Mode。

超微服务器前面为什么会有BF Card

这里还要纠正一个很常见的观察误差：超微服务器前面不一定只有一张固定的 BF Card。

以超微前置I/O的 HGX B200 系统为例，官方资料写的是：最多可以配置8张单口 ConnectX-7 网卡或 BlueField-3 SuperNIC，另外还可以配置最多2张双口 BlueField-3 DPU。

前面那一排高速接口里，可能既有负责GPU集群通信的SuperNIC，也有负责云基础设施和外部业务网络的DPU。不同订单、不同网络方案，装的卡和数量都可能不同。

为什么要放在前面？主要是为了机房维护方便。

大型AI集群一台服务器可能要接十几根高速铜缆或光缆。如果网口、管理口、硬盘和状态灯都集中在冷通道一侧，运维人员就能在同一侧完成布线、检查和更换，减少绕到机柜背面的次数。超微把它称为 Front I/O 设计，重点是走线、散热和维护效率。

所以，“卡在前面”是服务器的工程布局；“卡做什么”则要看它是SuperNIC还是DPU。

第一件事：让多台GPU服务器之间搬数据更快

一台八卡 HGX 服务器内部，GPU之间可以通过 NVLink 和 NVSwitch 高速通信。

但模型大到一台服务器装不下时，就要把任务拆到几十台、几百台甚至更多服务器。数据一旦跨出机箱，就不能继续走机内的 NVLink，而要进入InfiniBand或高速以太网集群。

这时，BlueField-3 SuperNIC 就站到了GPU服务器的出口。

它支持 RDMA 和 RoCE 等技术。配合 GPUDirect RDMA，远端服务器传来的数据可以更直接地进入本机GPU显存，尽量少绕行CPU内存，也减少CPU反复参与数据搬运。

路径可以粗略理解为：

远端GPU → 高速交换机 → BlueField-3 SuperNIC → PCIe → 本机GPU显存

普通做法更像货物先卸到总仓库，再由管理员登记、转运到车间；GPUDirect RDMA 则是在权限和路径准备好以后，让专车直接开到车间门口。

这也是为什么部分高端八GPU服务器会提供接近 1 GPU : 1 NIC 的配置。GPU算得越来越快，网络如果跟不上，昂贵的GPU就会停下来等数据。

第二件事：把CPU手里的“杂活”接过来

服务器收到一个网络包，并不是插上网线就结束了。

系统还可能要做虚拟交换、流量转发、访问控制、加密解密、租户隔离、存储协议处理和各种封装拆封。这些工作都不一定复杂，却数量巨大，而且会持续占用CPU核心、内存带宽和中断资源。

BlueField-3 DPU 的价值，就是把这些基础设施任务放到卡上的Arm处理器和硬件加速单元里处理。

它常见的工作包括：

• 网络：虚拟交换、路由、隧道封装、流量控制；
• 存储：NVMe over Fabrics、远程存储虚拟化、数据路径加速；
• 安全：加密、访问控制、防火墙、微隔离；
• 管理：裸机部署、遥测、独立带外管理；
• 云平台：把租户网络和基础设施服务从主机CPU中隔离出去。

这样做不是为了让Arm核心替代服务器里的Xeon或EPYC，而是让主CPU把更多时间留给模型预处理、任务调度和业务程序。

更重要的是隔离。

如果防火墙和虚拟交换机都运行在主机操作系统里，主机一旦被攻破，基础设施也可能一起失守。DPU可以站在主机与网络之间，让数据先经过卡上的可信控制面，再进入服务器。即使主机系统出了问题，管理和安全边界仍有机会保持独立。

这就是英伟达反复强调 Zero Trust 的原因：它不只是追求快，还想把服务器的门卫从屋里搬到门外。

SuperNIC、DPU、ConnectX-7，到底怎么分

这几个名字外形相似，作用也有重叠，小白最容易混淆。可以先这样记：

• ConnectX-7：核心是一张非常快的网络适配器，负责高速收发和RDMA卸载；
• BlueField-3 SuperNIC：面向AI计算网络强化的网络加速器，重点是多台GPU服务器之间的东西向通信，出厂默认是 NIC Mode；
• BlueField-3 DPU：更像一台基础设施计算机，Arm核心默认启用，重点处理网络、存储、安全、虚拟化和南北向流量；
• GPU：负责矩阵计算、训练和推理，不负责替服务器守门和管网络；
• BMC：负责整台服务器的开关机、硬件监控和远程运维，也不是数据高速通道。

它们不是简单的谁替代谁，而是分工不同。

在高端AI服务器里，可能同时存在GPU、ConnectX-7、BlueField-3 SuperNIC、BlueField-3 DPU 和整机BMC。看起来全是英伟达和各种网口，实际上分别在管计算、机内互联、机外通信、基础设施和运维。

BF Card会让GPU直接变快吗

不会。

把一张 BlueField-3 插进服务器，单张GPU的Tensor Core数量、显存容量和理论算力都不会改变。单机单卡跑一个不依赖网络的模型，BF Card甚至可能几乎没有存在感。

它提升的是系统效率。

当任务跨多台服务器、频繁同步梯度、读取远程存储，或者云平台需要同时服务很多租户时，网络和基础设施开销会变得非常大。BF Card把数据搬运和基础设施任务做得更快、更稳定，GPU少等一秒，整套昂贵集群就多算一秒。

所以它的价值要在规模里看。

一张400Gb/s卡不代表业务一定能跑到400Gb/s；有 GPUDirect 也不代表数据自动绕过CPU。交换机、光模块、线缆、PCIe拓扑、驱动、DOCA、NCCL、拥塞控制和模型通信模式，只要有一环没配好，标称带宽就只是标称带宽。

BlueField不是插上就自动提速的魔法卡，它是AI服务器网络和基础设施的一部分。

看一台服务器的BF Card，先问这四个问题

以后再看到超微服务器前面的 BF Card，先别急着只数网口，可以问四件事：

第一，它到底是 BlueField-3 SuperNIC，还是 BlueField-3 DPU？

第二，它现在运行在 NIC Mode 还是 DPU Mode？Arm核心有没有真正启用？

第三，它接的是GPU计算网络、存储网络，还是业务和管理网络？用的是以太网还是InfiniBand？

第四，整台机器有几张卡，分别连到哪些GPU、CPU和交换机？

把这四个问题问清楚，才知道这张卡是在给GPU集群修高速公路，还是在替CPU管理服务器的大门。

回到最开始的问题：超微GPU服务器前面的 BF Card 到底是什么？

它不是另一张GPU，也不只是一个更贵的网口。

它是计算系统与网络之间的一台“小电脑”：向外连接集群，向内连接CPU和GPU，同时把网络、存储、安全和管理从主机里剥离出来。

GPU决定一台服务器能算多快，NVLink决定一台服务器里的GPU能不能一起算快，而BF Card决定数据跨出服务器以后，能不能及时、安全地送到下一台GPU。

这也说明，今天做AI算力，早就不是把GPU芯片造出来就结束了。GPU、HBM、互联、网卡、交换机、光模块、存储、散热和软件，缺一层都可能让最贵的芯片在那里等数据。

现在我们要补课的，不只是一颗GPU芯片，还有从GPU到终端应用的一整套软硬件环境。