在哪个网站做整形,简述网站推广的方式,邯郸房产网,全网影视vip网站建设一、PCIe与SXM
1.1 Nvidia GPU PCIe
PCIe(peripheral component interconnect express)是一种高速串行计算机扩展总线标准#xff0c;是英特尔公司在2001年提出来的#xff0c;它的出现主要是为了取代AGP接口#xff0c;优点就是兼容性比较好#xff0c;数据传输速率高、…一、PCIe与SXM
1.1 Nvidia GPU PCIe
PCIe(peripheral component interconnect express)是一种高速串行计算机扩展总线标准是英特尔公司在2001年提出来的它的出现主要是为了取代AGP接口优点就是兼容性比较好数据传输速率高、潜力大。
把PCIe GPU卡插到PCIe插槽上然后和CPU、同一个服务器上其他的GPU卡进行通信也可以通过网卡与其他的服务器节点上的设备进行通信这种就是PCIe的通信方式但是这种传输速度不快。
如果想要和SXM一样有很快的传输速度可以使用NVlink桥接器实现GPU和CPU之间的通信但是和SXM不一样的地方就是它只能实现2块GPU卡之间的通信。
1.2 Nvidia GPU SXM
SXM是英伟达公司设计出来的它的出现主要是为高性能计算和数据中心提高更强的计算能力和传输速度。SXM接口的GPU通常是存在于DGX系统板上该DGX系统板支持4张GPU-SXM或则8张GPU-SXM而每个GPU之间通过NVLink进行通信。
二、DGX与HGX
Nvidia制造出来显卡之后 有三种方式出售。
2.1 单独的显卡
Nvidia将显卡卖给服务器制造商然后每个服务器制造商都会为 GPU 构建自己的底板然后服务器制造商将 GPU 安装到服务器中。 对于PCIe的GPU来说这个还好做但是对于SXM的GPU来说就太麻烦了。 所以Nvidia后来将SXM的GPU在卖给服务器制造商之前先标准化一下加上了NVSwitch 底板考虑了NVLink、散热、IB连接等各种因素这就产生了Nvidia HGX平台。
2.2 NVIDIA HGX
NVIDIA HGX 是一个计算平台通过NVLink 和 NVSwitch将多个GPU串连起来提供强大的AI运算能力。 有了Nvidia HGX平台服务器制造商对SXM版的GPU的组装工作就相对简单了一些他们根据需要给HGX周边配置 RAM、CPU、存储即可。 HGX 主要面向需要灵活且可扩展的平台来满足高性能计算需求的研究人员和开发人员。适用于云数据中心、高性能计算、大规模人工智能研发、可定制基础设施等应用。
2.3 NVIDIA DGX
NVIDIA DGX是基于HGX规范设计的具体产品是一台预装了NVIDIA GPU和软件堆栈的高性能计算服务器。这些系统被设计为开箱即用的解决方案专门用于深度学习模型的训练和推理。DGX系统结合了NVIDIA的GPU技术和优化的软件旨在提供出色的深度学习性能和效率。 NVIDIA DGX是 AI 超级计算机。硬件方面包含GPU、CPU、内存、硬盘、散热系统、软件、操作系统等等也就是说除了显示器、键盘、鼠标它全都有。
三、H100与A100系列、PCIe与SXM版本对比 参考资料
【1】https://www.bilibili.com/read/cv24855760/ 出处bilibili 【2】https://zhuanlan.zhihu.com/p/657075125 出处知乎 【3】https://www.nvidia.com/en-us/data-center/h100/ 出处Nvidia官网 【3】https://www.nvidia.com/en-us/data-center/a100/ 出处Nvidia官网
