和硕今年参与 NVIDIA GTC 大会,展示 AI 伺服器、GenAI 平台及如何运用智慧 AI 协助生产製造等解决方案,而 NVIDIA 宣布和硕为其先进 GPU 计算技术的全球合作伙伴之一,尤其是最新发表的 NVIDIA GB200 Grace Blackwell 超级晶片。
和硕目前积极开发的 GB200 NVL36 是一个多节点、液冷、机柜级平台,专用于处理计算密集型工作负载,还配备 NVIDIA BlueField-3 数据处理单元,可以在超大规模 AI 云端实现网路加速和满足 GPU 计算弹性各种功能。
和硕在人工智慧加速领域一直致力于推动硬体创新和提升使用者体验,随着大语言模型(LLM)的发展,和硕的研发团队积极开发专为智慧製造领域设计的 AI 伺服器,藉由 AI 伺服器提高 LLM 的训练效率,替企业实现工业数位转型。
和硕这次在 GTC 2024 亮相的三大重点,包括与 NVIDIA 携手合作打造企业 AI 伺服器,共同塑造人工智慧和加速运算的未来,并推出 AS201-1N0 一款搭载 NVIDIA GH200 Grace Hopper 超级晶片的 AI 伺服器,能够无缝配合 LLM 训练。
再来是基于 NVIDIA MGX 架构的模组化设计,提供更大的灵活性,以满足数据中心多样化的加速运算需求,并兼具高效能、可灵活配置与 可扩充的特点,特别适合需要大规模平行运算处理和 NVIDIA GPU 加速的应用。
AI 伺服器採用直达晶片液冷的解决方案,和硕 GS200-2T0 採用 Intel 第 5/4 代 Xeon 2P 处理器,可搭配 2 个 NVIDIAA100TensorCoreGPUs,并受到 2U 既有机箱空间限制,CPU 和 GPU 採用直达晶片(Direct-to-Chip)液冷,能大幅增加硬体运算效率来降低总成本,从数位孪生到生成式人工智慧、训练和推理,提供顶级的图形和运算效能,支援资料中心内各种 AI 驱动的工作负载。
和硕现场将演示机械手臂在人工智慧辅助,如何模拟智慧工厂环境中检知包装物件与作业反应能力,透过演示强调自然语言如何帮助操作者,可以直观向机器提供精确的指令,透过和硕伺服器和 PEGAVERSE 的协同运作,有望提高效率,并提供全面的解决方案。
(首图来源:和硕)