【2022年5月10日美国加州圣何塞讯】-- Super Micro Computer, Inc. (Nasdaq: SMCI) 为企业级运算、储存、网络解决方案和绿色计算技术等领域的全球领导者,将为适用于高需求云游戏、媒体交付、AI和ML工作负载的两款搭载Intel的全新加速器提供支持,使客户能运用Intel和Intel Habana最新推出的加速技术进行部署。
Supermicro总裁暨首席执行官Charles Liang表示:“Supermicro持续与Intel和Habana Labs密切合作,提供一系列支持Arctic Sound-M和Gaudi2的服务器解决方案,满足需要高效媒体交付和AI训练的组织的严苛需求。我们将继续与领先的技术供应商合作,为复杂的工作负载提供应用优化的完整系统解决方案,同时提高系统性能。”
Supermicro通过Building Block Solutions方法设计新系统,可快速将新技术推向市场。此方法允许将时新的GPU和加速技术轻松放入现有设计中,或在需要时快速调整现有设计,以搭配更高性能的元件。
Intel公司执行副总裁暨数据中心与AI事业部总经理Sandra Rivera表示:“Supermicro推出采用最新Gaudi2和Arctic Sound-M加速器的系统,协助提供先进的人工智能和媒体处理能力。Supermicro的Gaudi AI训练服务器将为数据中心内一些增幅最快的工作负载加快深度学习训练的速度。”
Arctic Sound-M
搭载Arctic Sound-M GPU的Supermicro系统将满足云游戏、媒体转码和串流、虚拟桌面基础架构(VDI)、模拟和可视化、机器学习和内容创作领域的严苛要求。Intel Arctic Sound-M采用业界首创的硬件AV-1编码器和开放源代码媒体软件堆栈,与纯软件式的视频转码和交付解决方案相比,Intel Arctic Sound-M大幅改善了性能,同时内含适用于VDI环境的加速功能。
Supermicro首先将于2U 2节点单处理器的Intel系统(每节点3个GPU)、4U 10xGPU系统,和CloudDC服务器中采用Intel Arctic Sound-M GPU,其他系统则会在今年稍后发布。新的Supermicro AI训练服务器内含两个Intel第三代Intel Xeon可扩展处理器和八个Habana Gaudi2加速器,适用于高性能的AI训练环境。
Habana Labs Gaudi2
Habana Labs Gaudi2在许多工作负载中表现出色,包括:图像分类、目标检测、自然语言处理(NLP)模型和推荐系统等视觉应用。此一全新8U机箱的AI训练服务器将是搭载最新Habana Gaudi2 (HL-225) 的第一个商业实践。此服务器整合两个第三代Intel Xeon可扩展处理器和高达8TB的DRAM,能将AI训练加速到崭新的性能等级。服务器内有24个可热插拔的驱动器槽,支持高容量的本地高性能储存,另外也提供大量IO。此外,Gaudi2加速器提供空气冷却(HL-225)选项。Habana Gaudi2能助力客户轻松快速调整规模。每个Habana Gaudi2加速器可通过ROCE以每秒700 GB的速度与其他Gaudi2加速器进行通信,并能以每秒2.4 TB的速度与其他服务器内的其他Gaudi2加速器进行通信。此外,每台服务器有6个QSFP-DD连接端口,可轻松横向扩展,处理更大的模型和数据集。
*此处指的是Gaudi2与Gaudi的比较,ResNet50训练(TensorFlow,图像/秒),资料来自Habana Labs
Supermicro将出席Intel Vision 2022并在105号展位展示下列解决方案:
VSBLTY人脸识别与零售分析
Taqtile Manifest VR/AR
Supermicro多节点系统(搭載第三代Intel Xeon可扩展处理器)
Supermicro X12 Gaudi AI训练服务器
关于Super Micro Computer, Inc.
Supermicro (NASDAQ:SMCI) 是应用优化全方位IT解决方案的全球领导者。成立于美国加州圣何塞,Supermicro致力于为企业、云计算、人工智能和5G 电信/边缘IT 基础架构提供领先市场的创新技术。Supermicro正转型为全方位IT 解决方案提供商,完整提供服务器、人工智能、储存、物联网和交换机系统、软件和服务,同时继续提供先进的大容量主板、电源和机箱产品。Supermicro 的产品皆由企业内部设计和制造,通过全球化营运展现规模和效率,并优化以提高 TCO及减少对环境的影响(绿色运算)。屡获殊荣的Server Building Block Solutions 产品组合能让客户从灵活且可重复使用的构建区块所打造的广泛系统系列中选择,支持各种规格、处理器、内存、GPU、储存、网络、电源和散热解决方案(空调、自然气冷或液冷),进而针对客户实际的工作负载和应用实现最佳性能。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 皆为Super Micro Computer, Inc. 的商标和/或注册商标。
所有其他品牌、名称和商标皆为其各自所有者之财产。
好文章,需要你的鼓励
Indeed通过云原生和数据驱动的数字化转型,为AI时代做好了准备。公司CIO Anthony Moisant表示,他们不仅在采用AI,更在构建一个智能代理公司,将人类智慧与机器智能相结合。公司已完成从本地服务器向AWS的迁移,建立了统一的数据湖架构,并基于Apache Iceberg构建数据湖仓。目前已有4个Salesforce代理投入生产,6个内部智能产品上线,另有20多个代理正在开发中。
微软研究院团队开发的BitNet v2技术实现了AI大语言模型的重大突破,通过创新的H-BitLinear模块和哈达玛变换技术,成功将模型激活精度从8位降低到4位,同时保持了几乎相同的性能表现。这项技术显著提高了模型的计算效率和硬件利用率,为AI模型在边缘设备和批量推理场景中的部署开辟了新道路,有望推动AI技术的更广泛普及应用。
AI第四代生成式AI标志着技术范式转变,正在用户体验、应用自动化和平台三个层面为企业带来重大价值和颠覆。企业应关注商业价值而非技术本身,需要从业务问题出发量化价值。未来五年将在认知任务处理上取得巨大进展,但需要创新思维应对劳动力转型。六大颠覆性支柱包括下一代AI能力、数据平台、机器人技术、量子计算、企业用户体验和云架构等。
伊利诺伊大学香槟分校研究团队提出ToolRL方法,通过精细的奖励机制训练大语言模型正确使用工具。该方法突破传统监督微调局限,采用格式奖励和正确性奖励相结合的评估体系,在多个基准测试中相比基础模型提升17%,相比传统方法提升15%,显著改善了模型的工具使用能力和泛化性能。