NVIDIA集成AI超算中心经验，打造AI就绪型数据中心

看点：NVIDIA AI 布置宝典：数据中心必看，一并搞定算力、散热、功率难题。 [原创文章：www.ii77.com]

[好文分享：www.ii77.com]

传统数据中心向人工智能（AI）转型已是大势所趋。

一方面，从智能客服、智能安防、智能风控、智能运维到智能质检，愈加雄厚的智能化应用致使存储需求呈现指数级增进，并对数据中心的算力提出新的挑战。

另一方面，AI 正打破传统数据中心的治理和运营模式，完成更为精准的系统调优、故障预判等义务，替代更多人力，削减能耗和资源虚耗，更大水平释放生产力。

作为 AI 时代的根蒂举措，AI 硬件正成为越来越多数据中心扩容扶植的要害地点。尤其是能源、银行、保险、制造、电信、医疗等重度存储用户，急需加快 AI 的根蒂架构方案。

当超强较量力成为数据中心的刚需，NVIDIA GPU 凭借壮大的并行较量和浮点能力冲破了深度进修的算力瓶颈，成为 AI 硬件的首选。

然而，对于很多传统数据中心而言，布置包含 AI 硬件的根蒂举措，需要花消很多时间与人力。

对此，NVIDIA 基于 GPU 软硬件生态系统，供应了一站式交付节点解决方案 DGX POD。

这一方案能够大大节约构建根蒂举措所破费的时间，匡助数据中心轻松快速进行 AI 布置，为扩展多 GPU 办事器节点供应更多支撑。

本期的智能内参，我们介绍《NVIDIA DGX POD 数据中心参考设计》白皮书，从传统数据中心的 AI 转型之困着手，连系 DGX POD 的应用实例，解读 NVIDIA DGX POD 交付节点的焦点亮点，为亟待快速转型 AI 的数据中心架构师，以及预备构建 AI 停当型数据中心供应参考。如需查阅此白皮书《NVIDIA DGX POD 数据中心参考设计》，可直接点击左下方的“阅读原文”下载。

以下为智能内参整顿呈现的干货：

数据中心 AI 转型遭遇困局

大数据、AI 与云较量等新兴手艺卷起新的海潮，在各类数据中心中形成连锁回响。海量数据处理义务涌入数据中心，面临人工智能应用的练习和推理，令传统的CPU 办事器难以招架。

深度进修算法属于较量密集型算法，与 NVIDIA GPU 较量架构十分契合。曩昔 CPU 需要花数十天完成的较量义务，通用 GPU 只用几小时就能完成，这大幅提拔深度进修等并行处理数据方式的较量效率，使得以 GPU 为根蒂的设备日渐成为各大数据中心进行深度进修练习的首选。

然而，尽量布置了壮大的硬件设备，也不料味着数据中心的 AI 转型规划就万事俱备了，还有一个要害问题摆在面前——架构设计。

数据中心需要考虑的身分远不止算力，还需兼顾收集、存储、电源、散热、治理和软件等方面问题。

硬件组合不是简洁粗鲁的积木堆叠，并不是说较量节点越多，机能就会随之线性增进。其较量机能会受制于高速互联收集，一旦显现数据拥堵，整机系统的效率都或者被拖累。此外，过多较量硬件堆叠，或者导致功耗过大，晦气于日后的运营。

是以，数据中心必需思虑若何打造了降本增效的最佳体式，将各类硬件资源协同组合，在不乱平安的状况下，以超低延迟和高带宽接见数据集。

这对于缺乏 AI 布置经验的传统数据中心而言，无疑是个不小的挑战。若是 DIY GPU 较量节点，不光需要花消人力和时间成本，还要考虑较量、存储、交流机等各类硬件设备的集成兼容问题。

对于这一痛点，NVIDIA 供应了一个颇有吸引力的解决方案。

它经由与领先的存储、收集交流手艺供应商合作，供应一系列 DGX POD 数据中心交付节点设计参考架构，将 NVIDIA 历久储蓄的超大规模数据中心 AI 布置经验，转化为可复制方案，无论是大中小型数据中心，均能够直接参考使用。

NVIDIA AI 超等较量机构建经验转换

DGX POD 交付节点（Point of Delivery）是一种经优化的数据中心计架，包含多台 DGX-1 或 DGX-2 办事器、存储办事器和收集交流机等最佳实践。

▲ DGX POD 参考架构正面图

这是 NVIDIA 构建大量超大规模 GPU 加快较量节点的经验之集大成者。NVIDIA 曾竖立了大型的 AI 数据中心，包含数千台领先的 DGX 办事器加快较量节点。

本年6月，NVIDIA 公布推出全球速度排名第22位的超等较量机 DGX SuperPOD，为企业快速布置主动驾驶汽车项目，供应一致巨细的超算无法匹敌的 AI 机能。

SATURNV 亦是 NVIDIA 基于 DGX 系统构建的 AI 超等较量机，支撑主动驾驶汽车、机械人、显卡、HPC 等多范畴的 NVIDIA 内部 AI 研发。早在2016年推出之际，DGX SATURNV 就登上 Green 500 超算榜第一，被评为全球最经济高效的超算，整体运算速度位列第28位，是最快的 AI 超算。

基于使用 SATURNV 所遵循的设计原则和架构，NVIDIA 在短短三周内就打造出一套基于 NVIDIA DGX-2 设置的全新系统 DGX SuperPOD。近期 NVIDIA 借助一套基于 DGX-2 的设置在 MLPerf 基准测试中创下六项 AI 机能记录。

在将 DGX SATURAN 打造成所有企业都可复制的、经验证的设计过程中，NVIDIA 经由实地磨练储蓄了雄厚的经验，并将较量、收集、存储等多方面的最佳实践，集中于 NVIDIA DGX POD 的设计之中。

现在，包罗 Arista、思科、DDN、Dell EMC、IBM Storage、Mellanox、NetApp 和 Pure Storage 等在内的业内数据中心向导者已环绕 DGX POD，推出了基于其各自特有手艺的相关产物。

这些集成系统均为客户供应经由经验验证的靠得住方式，这意味着，每个企业都能量身定制完全适配自身需求的 AI 超算中心。

例如，基于 DGX POD，NetApp 推出了 NetApp ONTAP AI  融合根蒂架构。其由 NVIDIA DGX-1 办事器、 NetApp 云互联存储系统供应支撑，是 NVIDIA 和 NetApp 结合斥地和验证的架构。

借助这一架构，企业能够从小规模起步进行无缝扩展，智能治理跨边缘、焦点和云以及反向数据传输的完整深度进修数据管道，简化  AI  布置。

环绕 NVIDIA DGX POD 参考架构和 NetApp ONTAP AI，英国剑桥咨询公司构建了一套专门的 AI 研究举措，用于练习一个能顿时正确识别各类音乐派别的 AI “狂热喜爱者”。

借助参考框架，其 AI 项目所带来的对较量、存储、收集举措的需求均获得知足。经由在16台 NVIDIA GPU 上接管数百小时的音乐练习，这位特别的音乐喜爱者，在“听音识派别”的正确度上，甚至超越了人类和传统编程。

AI 软件：调优 DGX 硬件，降低治理门槛

除了设计优化的 DGX 办事器、存储办事器和收集交流机组合 ，DGX POD 上还运行一整套适配的 NVIDIA AI 软件客栈，极大简化 DGX POD 的平常把持与维护，为大规模多用户 AI 软件斥地团队供应高机能的深度进修练习情况。

▲ NVIDIA AI 软件客栈

NVIDIA AI 软件包罗 DGX 把持系统（DGX OS）、集群治理和协调对象、工作负载调剂器、来自 NVIDIA GPU Cloud (NGC) 容器..表的和优化容器，能够为使用者供应优化的把持体验。

DGX POD 治理软件可凭据需要，主动立异安装 DGX OS。DGX OS 是 NVIDIA AI 软件客栈的根蒂，基于优化版 Ubuntu Linux 把持系统构建，并专门针对 DGX 硬件进行调优，支撑各类 NVIDIA 库和框架及 GPU 的容器进行时。

▲ DGX POD 治理软件层

DGX POD 治理软件层由 Kubernete 容器协调框架上运行的各项办事构成，可经由收集（PXE）为动态主机设置和谈（DHCP）和全主动 DGX OS 软件设置供应办事。

经由使用其简洁的用户界面，治理员可在由 Kubernetes 和 Slurm 治理的域中移动 DGX 办事器。将来 Kubernetes 增加功能估计在纯 Kubernetes 情况中，支撑所有 DGX POD 用例。

DGX POD 上的 NVIDIA AI 软件可借助 Ansible 设置治理对象进行治理，白皮书中有供应其开源的软件治理客栈和文档在 Github 上的链接。

智器材认为，DGX POD 一站式交付节点解决方案，不光能加快数据中心的 AI 布置效率，同时也经由供应更壮大的算力，大幅度提拔数据的行使效率。

当前，好多数据中心方才踏入或规划踏入 AI 的大门，而当下主流的深度进修算法必需配备专业的 AI 根蒂举措。基于 NVIDIA DGX POD 的架构方案，对于快速构建大规模 AI 较量集群非常具有参考价格。跟着此类根蒂架构逐渐普及，更多数据中心将得以消弭设备与资源预算之间的鸿沟。

这只是 NVIDIA 打造 AI 停当型数据中心宏图的主要版面之一，行使 DGX-1、DGX-2 办事器和NVIDIA GPU 大规模较量架构的成长提高，NVIDIA 正将机械进修、深度进修和高机能较量（HPC）扩展到更多的数据中心，为金融、能源、制造、电信、医疗、科学较量等更多行业的生产力提拔供应动力引擎。

如需查阅此白皮书《NVIDIA DGX POD 数据中心参考设计》，可直接点击左下方的“阅读原文”下载。