发布单位 : 和硕联合科技股份有限公司
发布日期 : 2024/11/19
为 AI而生, 和硕于美国运算大会SC24激发高效运算的想像力
和硕联合科技(以下简称 ”和硕”)是一家全球知名的设计和制造服务(DMS)公司,将于美国运算大会SC24 #403展位, 以 ”为 AI 而生,激发高效运算的想像力” 为主题,展出适合即时大型语言模型 (LLM) 运算与先进散热基础设施的解决方案。并透过发表多节点高密度运算效能设计的液冷 (DLC) 伺服器产品,引领资料中心向增进能源效率之路迈进。
呼应今年SC24的展览主题 ”创造高效运算”,和硕展出的一系列与合作伙伴AMD,Intel,NVIDIA合作设计支援高效运算的伺服器与机架 (Rack) 级方案。此次展出主要特色产品包含:
- 支援大规模生成式人工智慧运算的机架 (RA4401-72N1),并搭配液冷Liquid-to-Air Sidecar 或是Liquid-to-Liquid CDU 散热机柜方案。运算节点采用NVIDIA GB200 NVL72高密度机架级 GPU 解决方案,为生成式人工智慧运算提供动力,实现30倍的即时大型语言模型 (LLM) 推论速度,降低25倍的总拥有成本(TCO),并减少25倍的能源消耗。
- 边缘推论在AI应用上的重要性与日俱增,和硕展示利用NVIDIA MGXTM模组参考架构下,采用NVIDIA GH200,NVIDIA H200 NVL,NVIDIA L40S的2U (AS201-1N0, AS205-2T1)/4U(AS400-2A1)伺服器。其中NVIDIA H200 NVL 为主流企业伺服器解锁了 AI 加速,增进大型语言模型(LLM)推理速度最高可达 1.7 倍,在高效能计算(HPC)应用相较 H100 NVL 效能则提高 1.3 倍
- 资料中心持续追求提高运算密度与增加运算效能的方案,和硕结合先进 (Direct-to-Chip) 冷却散热解决方案,并搭载最新AMD EPYCTM 9005系列处理器,打造多节点高密度并符合ORv3规范的OCP伺服器 (MS303-4A1)。和硕也同时展出多台气冷式多节点伺服器 (MS301-2T1,MS302-2T1),搭配Intel® Xeon® 6 处理器 E-cores和P-cores,能应付资料中心之弹性扩充与节能省电的要求。
和硕很荣幸于SC24美国运算大会展示最新的高速运算解决方案,诚挚邀您前来亚特兰大会场403展位参观! 和硕将成为您各式伺服器系统与架构的首选合作伙伴。
关于和硕
和硕联合科技股份有限公司(简称和硕)成立于2008年1月1日,凭藉多样的产品开发经验及垂直整合制造能力,致力于为客户提供创新的设计、系统化的生产和制造服务,以全面、高效地满足所有客户需求。依靠伺服器设计及制造领域的经验累积,和硕正专注于开发多样化的先进伺服器,以满足当前和未来云服务供应商数据中心及企业级数据中心的需求。
Pegatron Corporation Website: https://www.pegatroncorp.com/
Pegatron SVR Website: https://svr.pegatroncorp.com/
【媒体联络人】
王鼎允
886-2-8143-9001 *32584
Tingyun_Wang@pegatroncorp.com
陈莹
886-2-8143-9001 *32312
PegatronIR@pegatroncorp.com