9月9日,国际权威AI性能基准测试平台MLPerf公布最新推理(Inference V2.1)测试成绩。在与众多国际一流厂商的同台竞技中,宁畅人工智能服务器X640 G40和GPU液冷服务器X660 G45 LP两款核心产品性能登顶,共斩获13项第一。
MLPerf是影响力最广的国际AI性能基准测试之一,Inference V2.1包括Datacenter数据中心和Edge边缘两大赛道,设置离线、在线、单数据流、多数据流等多种模式,多维度考察厂商产品性能。
X660 G45 LP夺冠,支持更多场景应用
在本次测试中,宁畅液冷产品大展拳脚,表现最为抢眼的非X660 G45 LP服务器莫属,共获12项测试第一。宁畅X660 G45 LP是专门为深度学习训练开发的高性能液冷计算平台,采用成熟的冷板式液冷设计,在本次测试中表现出卓越性能,算力超群。
在此次比赛中,宁畅X660 G45 LP服务器分别在数据中心16个任务中斩获8项最佳成绩,在边缘赛道中获4项最佳成绩,展现出在高端机型中的领先优势。在线模式下,该服务器成功获得DLRM(智能推荐模型)在99%和99.9%精度要求下的2项测试全场第一,该模型在疫情形势下具有广泛的应用价值,能够通过大数据技术实现海量数据的采集、分类和存储,结合用户的消费习惯实现电商服务精准推送等。
本次测试还覆盖多种典型的AI模型,包括ResNet(图像分类)、3D-UNet99(图像分割)、Rnnt(语音辨识)、RetinaNet(目标检测)、Bert-99(自然语言处理)等,更加贴近实际应用情况,例如,3D-UNet99主要应用场景为医学图像分割,RetinaNet在自动驾驶等领域广泛使用。宁畅在众多模型任务下获得全球领先成绩,证明其服务器强大的AI性能与应用潜力。
除X660 G45 LP服务器产品外,搭载NVIDIA GPU,宁畅X640 G40人工智能服务器也在本次测试中获得了优异成绩。在数据中心固定任务赛道中,该服务器搭配NVIDIA GPU,获得ResNet模型测试成绩全场第一,离线分数679915,意味着每秒可完成679915个图片样本处理。
冠军的背后:液冷技术大展拳脚
自2020年至今,宁畅已连续6次参加MLPerf AI性能基准测试,共斩获百余项第一成绩,而本次X660 G45 LP服务器获得优异成绩的原因,除了软硬件层面的精细校准和全面优化外,液冷技术的加持也至关重要。
据了解,宁畅液冷服务器产品针对服务器主要热源CPU、GPU、内存进行冷板液冷设计,可实现部件级精确制冷。宁畅方面表示,液冷技术在本次测试中发挥了明显作用,可有效降低GPU温度,保证其最佳工作频率,充分发挥算力性能。
截至目前,宁畅技术团队专注服务器领域已有15年,液冷产品经过千项测试确保运行稳定可靠。
好文章,需要你的鼓励
Quinas科技完成ULTRARAM通用存储器量产的关键步骤,该技术结合了DRAM的速度、NAND的非易失性和低功耗特性。IQE公司成功将兰卡斯特大学开发的化合物半导体层扩展到工业化工艺,开发出可扩展存储设备的镓锑化物和铝锑化物外延技术。ULTRARAM在100纳秒内切换,能耗低于1飞焦耳,有望彻底改变从物联网设备到数据中心的整个数字技术格局。
阿里巴巴达摩院开发的PREL框架通过渐进式学习让AI具备类人推理能力,在复杂推理任务中性能提升超35%。该框架采用多层次架构和动态推理路径,解决了传统AI推理混乱、上下文丢失等问题,已在医疗诊断、金融评估等领域展现应用潜力。
6G作为5G的继任者预计将在2030年左右推出,有望实现1太比特的传输速度和近零延迟。这一技术突破可能为数据中心行业带来三大影响:首先是实现大规模无线数据中心,摆脱传统线缆束缚;其次是推动数据中心内部网络基础设施升级,提升处理能力;最后是加速边缘数据中心需求增长。尽管6G的具体功能仍在规划阶段,但数据中心运营商应提前关注其发展并制定相应战略规划。
韩国KAIST团队开发的Mol-LLaMA是首个能像化学专家一样理解分子并解释其性质的AI系统。该系统通过融合2D和3D分子信息,不仅能准确预测分子特性,还能详细解释背后的科学原理,在药物发现、化学教育等领域展现出巨大应用潜力,为分子科学研究开启了AI辅助的新时代。