当前所在位置:首页 > 科技热点

Supermicro 扩展人工智能和 GPU 机架规模解决方案

2023-12-08 【 字体:

Supermicro, Inc.是一家为人工智能、云技术、存储和 5G/边缘提供全面 IT 解决方案的制造商,宣布推出三款基于 AMD 的全新 H13 代 GPU 服务器产品,这些经过优化的服务器,具备先进性能且高效,并由全新的 AMD Instinct MI300 系列加速器提供支持。Supermicro 强大的机架规模解决方案配置 8-GPU 服务器和 AMD Instinct MI300X OAM,是大型模型训练的理想选择。

Supermicro 支持 AMD Instinct MI300 系列加速器,从而扩展人工智能和 GPU 机架规模解决方案 

由 AMD Instinct™ MI300X 加速器提供支持的全新 8-GPU 系统现已推出,具备突破性的人工智能和 HPC 性能,可用于大规模人工智能培训和 LLM 部署

Supermicro, Inc.(纳斯达克股票代码:SMCI)是一家为人工智能、云技术、存储和 5G/边缘提供全面 IT 解决方案的制造商,宣布推出三款基于 AMD 的全新 H13 代 GPU 服务器产品,这些经过优化的服务器,具备先进性能且高效,并由全新的 AMD Instinct MI300 系列加速器提供支持。Supermicro 强大的机架规模解决方案配置 8-GPU 服务器和 AMD Instinct MI300X OAM,是大型模型训练的理想选择。


Supermicro 支持 AMD Instinct MI300 系列加速器,从而扩展人工智能和 GPU 机架规模解决方案

现提供配备 AMD Instinct MI300A 加速处理单元 (APU) 加速器的新型 2U 液冷和 4U 风冷服务器,可提高数据中心效率,并为人工智能、LLM 和 HPC 领域快速增长的复杂需求提供动力。新系统包含四个用于可扩展应用程序的 APU。Supermicro 可以为大规模环境提供完整的液冷机架,每个机架的 FP64 性能高达 1,728 TFlops。Supermicro 在全球拥有制造工厂,简化了新服务器的交付流程,以实现人工智能和 HPC 的融合。

Supermicro 总裁兼首席执行官 Charles Liang 表示:"我们非常高兴能够利用最新一代 AMD Instinct 加速器扩展我们用于人工智能培训的机架规模全面 IT 解决方案,与前几代产品相比,性能提升高达 3.4 倍。我们全球制造工厂每月可供应 4,000 个液冷机架,因此可以凭借 AMD Instinct MI300X 加速器或 AMD Instinct MI300A APU 提供最新的 H13 GPU 解决方案。我们的架构久经考验,能够为每个 GPU 提供 1:1 的 400G 网络,这些 GPU 专为大规模人工智能和超级计算集群设计,能够完全集成液冷解决方案,为客户提供兼备性能效率的竞争优势,并且易于部署。"

了解更多有关配备 AMD 加速器的 Supermicro 服务器信息

LLM 优化的 AS C 8125GS-TNMR2 系统基于 Supermicro 的构建块架构,是一种经验证的设计,可用于以风冷和液冷机架规模设计的高性能人工智能系统。平衡的系统设计将 GPU 与 1:1 网络相关联,从而形成跨节点和机架的大型高带宽内存池,以适应当今最大的语言模型,参数高达数万亿,最大限度地提高并行计算并最大限度地减少训练时间和推理延迟。配备 MI300X OAM 加速器的 8U 系统借助 AMD Infinity Fabric™Links 提供 8-GPU 的原始加速能力,可在开放标准平台上可实现高达 896GB/s 的峰值理论 P2P I/O 带宽,且在单个系统中具有 1.5TB 的 HBM3 GPU 内存,在业界遥遥领先,还支持原生稀疏矩阵,旨在节省功耗、降低计算周期并减少人工智能工作负载的内存使用。各服务器采用双插槽 AMD EPYC™9004 系列处理器,最高可达 256 核。在机架规模上,超过 1000 个内核的 CPU、24TB 的 DDR5 内存、6.144TB 的 HBM3 内存以及 9728 个计算单元可用于最复杂的人工智能环境。Supermicro 在 8U 配置方面拥有丰富经验,并使用 OCP 加速器模块 (OAM),相较于定制设计,可更快将配置完整的服务器推向市场,从而降低成本和减少交付时间。

Supermicro 还推出了一款密度优化的 2U 液冷服务器 AS C2145GH-TNMR,以及一款 4U 风冷服务器 AS C4145GH-TNMR,每台服务器均配备 4 个 AMD Instinct™MI300A 加速器。新服务器专为 HPC 和人工智能应用设计,需要快速的 CPU - GPU 通信。通过在单个芯片上结合高性能的 AMD CPU、GPU 和 HBM3 内存,APU 消除了冗余内存副本。各服务器均配备用于应用程序扩展的先进 x86"Zen4"CPU 内核。此外,各服务器包括的 HBM3 内存高达 512GB。在一个由 21 个 2U 系统组成的全机架 (48U) 解决方案中,HBM3 可用内存达 10TB 以上,还配备 19,152 个计算单元。从 HBM3 到 CPU 的内存带宽为 5.3 TB/s。

这两个系统都具有支持 400G 以太网的双 AIOM 和网络扩展选项,旨在提升高性能计算空间、可扩展性和效率。2U 直接芯片液冷系统提供了出色的总体拥有成本 (TCO),在 21 个 2U 系统机架解决方案的基础上,每个机架产生 61,780 瓦能量,而不是 95,256 瓦风冷机架,节能 35% 以上,并且与风冷系统相比,风扇数量减少 70%。

AMD 执行副总裁兼数据中心解决方案事业部总经理 Forrest Norrod 表示:"AMD Instinct MI300 系列加速器在长期加速高性能计算应用和发展迅速的生成式人工智能需求方面都具有领先的性能。我们将继续与 Supermicro 密切合作,以 MI300 系列加速器为基础,利用 Supermicro 在系统和数据中心设计的专业知识,推动领先的人工智能和 HPC 全面解决方案上市。"

向 Supermicro 和 AMD 专家了解更多信息。观看网络研讨会直播或点播。

欲了解更多信息,请访问:

Supermicro AMD 加速器网站
AS -8125GS-TNMR2 (8U w/ MI300x)
AS -2145GH-TNMR (2U LC w/ MI300A) 
AS -4145GH-TNMR (4U AC w/ MI300A) 

关于 Super Micro Computer, Inc.

Supermicro(纳斯达克股票代码:SMCI)是应用优化整体 IT 解决方案的全球领军企业。Supermicro成立于加州圣何塞并在该地运营,致力于为企业、云计算、人工智能和 5G 电信/边缘 IT 基础设施提供率先面市的创新。我们是服务器、人工智能、存储、物联网、交换机系统、软件和支持服务的整体 IT 解决方案制造商。Supermicro 的主板、电源和机箱设计专业知识,更进一步推动了我们的研发和生产,为我们的全球客户提供了从云端到边缘的下一代创新技术。我们的产品均在公司内部(包括美国、亚洲和荷兰)完成设计和制造,通过全球运营实现规模和效益,从而优化总体拥有成本 (TCO),并能够(通过绿色计算)减少对环境的影响。获奖无数的 Server Building Block Solutions® 通过我们灵活可重复使用的构建块,为客户提供了丰富的可选系统产品系列,用于优化其确切的工作负载和应用。这些构建块支持全系列外形规格、处理器、内存、GPU、存储、网络、电源和冷却解决方案(空调、自然空气冷却或液体冷却)。

(来源:中电网)
The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
阅读全文
相关推荐

Nexperia推出新款120 V/4 A半桥栅极驱动器,进一步提高工业和汽车应用的鲁棒性和效率

Nexperia推出新款120 V/4 A半桥栅极驱动器,进一步提高工业和汽车应用的鲁棒性和效率
“Nexperia(安世半导体)近日宣布推出一系列高性能栅极驱动器IC,可用于驱...

英飞凌携手马瑞利采用AURIX TC4x MCU系列推动区域控制单元创新

英飞凌携手马瑞利采用AURIX TC4x MCU系列推动区域控制单元创新
“全球功率系统和物联网领域的半导体领导者英飞凌科技股份公司(FSE代码:IFX ...

Vishay 新款150 V MOSFET具备业界领先的功率损耗性能

Vishay 新款150 V MOSFET具备业界领先的功率损耗性能
“日前,威世科技Vishay Intertechnology, Inc.(NYS...

Bourns推出具有低 DCR 的薄型屏蔽功率电感器

Bourns推出具有低 DCR 的薄型屏蔽功率电感器
“Bourns® SRP-F 系列具有低 DCR,尺寸小、薄型 (0.7 至 1...

长光辰芯发布高速背照式全局快门CMOS图像传感器――GSPRINT5514BSI

长光辰芯发布高速背照式全局快门CMOS图像传感器――GSPRINT5514BSI
“长光辰芯发布高速背照式全局快门CMOS图像传感器-GSPRINT5514BSI...

电感器: TDK 进一步扩展用于汽车同轴电缆供电电路的积层电感器产品

电感器: TDK 进一步扩展用于汽车同轴电缆供电电路的积层电感器产品
“TDK株式会社宣布进一步扩大其用于汽车同轴电缆供电(PoC)电路的 MLJ10...

瑞萨率先推出第二代面向服务器的DDR5 MRDIMM 完整内存接口芯片组解决方案

瑞萨率先推出第二代面向服务器的DDR5 MRDIMM 完整内存接口芯片组解决方案
“全球半导体解决方案供应商瑞萨电子(TSE:6723)今日宣布率先推出面向第二代...

ROHM开发出适合高分辨率音源播放的MUS-IC系列第2代音频DAC芯片

ROHM开发出适合高分辨率音源播放的MUS-IC系列第2代音频DAC芯片
“全球知名半导体制造商ROHM(总部位于日本京都市)开发出一款属于适合播放高分辨...

圣邦微电子推出 70V 高共模电压、高压侧电流检测放大器 SGM8196

圣邦微电子推出 70V 高共模电压、高压侧电流检测放大器 SGM8196
“圣邦微电子推出 SGM8196,一款支持 70V 输入共模电压、高压侧电流检测...

Littelfuse推出高性能超级结X4-Class 200V功率MOSFET,提供更高效率和可靠性

Littelfuse推出高性能超级结X4-Class 200V功率MOSFET,提供更高效率和可靠性
“Littelfuse公司 (NASDAQ:LFUS)是一家工业技术制造公司,致...