随着产生和预测的波变得越来越高，工作量的种类越来越丰富，对AI服务器的能源和能源效率的需求也在增加。每当您谈论AI服务器，AI工作站，全部在AI或另一个团队之一中时，许多人的第一个响应是具有高计算机功率的AI GPU加速器。他当然是整个AI系统的主角，并且负责最重的任务，但请记住，只有GPU加速器不能接纳整个系统，并且如果没有CPU处理器的位置，就无法执行计算机系统。作为计算机系统的核心和大脑，CPU处理器在AI系统中也起着不可替代的作用，但它们总是相对谦虚。如果GPU加速器是AI系统的令人眼花ther乱的明星，该系统显示了该方案的最佳技能，则CPU处理器是隐藏场景后面的管家，并调整整个系统的有效行为，这使GPU加速器的各种需求能够完全满足并释放强大的强大功能。因此，目前，CPU处理器通常称为“主要控制CPU”。它使用最合适的教师CPU，形成了有效的IA加速度系统，在工作负载绩效与总财产成本（TCO）之间形成了理想的平衡。在AI加速系统中，主CPU负责通过提供有效的任务管理和出色的包皮性能来优化处理性能和资源的使用。这对于确保AI模型培训过程中的有效数据供应并保持IA处理器的操作状态很重要。作为AI加速系统的“中心神经”，主要控制CPU执行了各种任务，例如管理，优化，预处理，处理和放电，以提高系统性能和能源效率。据说基于全球客户的各种AI参考点和真实的实现经验，该英特尔Xeon系列处理器，尤其是最新一代的Xeon系列，是CPU强大而有效加速系统的CPU大师的理想选择。 NVIDIA的最后也是最强大的DGX B300系统选择了英特尔的新Xeon 6776p作为其主要控制CPU，去年的MGX系统使用了Xeon 6767。为什么它如此强大XXI 6？从六个地址中，您可以看到主CPU的AI加速度系统的需求以及Xeon 6系列如何满足它的需求。 1。瑞斯的加速系统想要极其强大且灵活的IO性能。 Xeon 6系列最多可以接受96个PCIE 5.0频道，比上一代高20％。双通道系统为192，因此带宽非常高，并且管数足够，可以灵活地分配给各种加速器和扩展卡。 2。AI加速系统需要最好的线程性能。 Xeon 6系列不仅具有多达128个性能中心和504 MB的三级缓存，而且还具有强大的子过程性能，并接受了各种涡轮加速技术。 。例如，PCT（首选核涡轮频率）可以将少量核加速到更高的频率，提供相应的GPU并支撑多达8个核心。例如，SST可以将不同的频率分配给不同的中央配置，并且具有不同的性能。 3。IA加速度系统需要最大的内存能力和带宽。 Xeon 6系列不仅接收最高的DDR5-6400频率，而且仅接受MRDIMM记忆，频率和带宽的增加30％，高达8800MHz。此外，Xeon 6系列可提供最多12个内存频道，可以提供无与伦比的内存带宽和内存能力，最多可容纳3 TB的单个系统。对于nvidia d为每个通道选择了GX B300系统，二DIMM（2LDPC）和5200MHz频率方案，以实现出色的内存能力，主要是为了实现良好的记忆能力。此外，Xeon 6系列还保持了CPU的内存空间与AIC加速器内存之间的一致性，提供了高性能资源的交换，整个系统也承认CXL以降低成本。 4。使用AI加速系统，CPU必须准备并卸载数据。 Xeon 6系列支持AMX指令（高级矩阵扩展），并增加了对FP16数据格式的支持。这非常适合此任务。特别是，MOE和MLP模型的出现和流行使越来越流行的CPU卸载了一些工作。 5。IA加速度系统需要强大的AR。 RA是指可靠性，可用性和维护能力。这是数据中心的工作站，服务器和硬件的重要属性。当然，Xeon 6是必不可少的。这可以显着减少大规模的无活动时间，并避免高损失。 RAS Technology承认许多高级管理功能，包括遥测，平台监控，共享资源控制和实时固件更新，这些功能汇集了该平台的丰富经验和经验，ISV的独立软件开发人员和解决方案集成商。 6。IA加速系统需要灵活的形式。 Xeon 6系列获得了全球DC-MHS标准。 NVIDIA MGX或DGX，双方都在共同努力。最后一个是DGX B300。这是由各方共同创建的，正在执行许多技术验证任务。 Xeon 6系列具有专门为主CPU设计的三种特殊型号。所有这些都是基于核心P的设计，即性能核心。当前的主控制CPU是相同的。我们还必须观察将来是否有中央电子和高效的设计设计和市场变化要求。其中，NVIDIA DGX B300使用Xeon 6776p，并处于双通道配置。 Xeon 6776p配备了64个核（128个螺纹），2.3GHz参考频率，涡轮3.6GHz全核和3.9GHz的最大涡轮频率。 Turbo频率PCT为4.6 GHz，最多可以做8个核心。传统的SKU再次增加了700MHz。此外，它配备了336 MB缓存，并接收了8个通道和MRD的DDR5-6400。 IMM-8000内存可以提供88个PCIE 5.0通道，而热设计则消耗350W。在这里，我们将解释几种不同的涡轮频率。所有中央涡轮增压器都是所有核活跃时可以执行的最高频率。适用于虚拟机和其他场景。在这一点上，每个核必须尽可能高。最大涡轮频率或最大涡轮增压频率是传统SKU所能达到的最高涡轮频率。我们假设一半的核是活跃的，另一个是活跃的一半是不活跃的，活性核可以以较高的频率工作，即与最大涡轮增压相对应的频率。 Hepriority核管意味着您可以使用更少的核（通常为2-8）打开核，并满足具有较高性能的AI加速度系统的严格需求，并避免系统瓶颈。对于使用加速器核的核，您还可以在操作过程中启动或使用SST-TF工具之前使用BIOS配置实时配置它们。低端Xeon 6774p也有64个核。除了将参考频率提高到2.5GHz外，与Xeon 6776p的最大区别在于，它仅接受一个通道，但最多可以提供136个IO通道。这更强大，可以扩展。高端Xeon 6962p具有72个核，144个螺纹，432 MB缓存，参考频率为2.7GHz，完整核的涡轮频率也为3.6 GHz，最大涡轮频率也为3.9GHz，涡轮频率PCT为4.4GHz。还可以接收12个通道DE内存，并可以提供96个PCIE通道，热设计能源消耗高达500W。以前的三种产品是所有客户的开放产品，是我们产品计划和路线图的一部分。将来，根据客户市场需求和个性化需求，将不再排除更多产品。 NVIDIA DGXEL加速度系统B300 AI已有多次改善。这是一个一般描述。它属于DGX High -End，专为AI培训等应用而设计。配备了CPU Master Xeon 6776p处理器，并通过UPI Highway Bus和互连的通道。每个通道最多具有八个PCT涡轮核。当客户在涡轮PCT上使用8、6、4或2个核时，客户可以在8、6、4或2个核之间进行选择。在堡垒6776p下，通过两张高速NIC卡连接了四个AI GPU。整个系统是八个AI GPU，通过NVLink Express总线连接。该系统使用相对平衡的design通过选择其主要CPU，但其性能仍然是行业的领导者，具有I/O性能，RAS性能以及更加平衡的，这可能是理想的选择。当然，我们知道自发开发的CPU处理器被广泛用于NVIDIA AI加速系统中，以适应GPU AI加速器。实际上，在市场上，许多IA系统供应商使用自己的主开发CPU进行了合作。从英特尔的角度来看，您服务的地址是为客户提供更多选择，并且作为一个开放的系统，始终遵循开放态度，主要控制CPU为满足不同客户需求提供了最佳选择。 NVIDIA DGX B300产品已选择Intel Xeon 6作为其主要对照CPU。 ISIT不是测试或证明产品，而是一种成熟的商业产品，是对Intel Xeon产品的性能和兼容性的充分认识。 [本文的结尾]如果您需要重印，请务必向我们展示其来源：Kuai Technology EditoR：香格·温克（Shangfang Wenq）