【2021年10月12日美国加州圣何塞讯】Super Micro Computer, Inc. (SMCI) 为企业级运算、储存、网络解决方案和绿色计算技术等领域的全球领导者,宣布推出搭载NVIDIA Ampere architecture GPU以及內建AI加速器的第3代Intel Xeon可扩展处理器的全新系统(Supermicro X12系列)。这些服务器专为需要低延迟和高应用性能的AI应用所设计。2U NVIDIA HGX A100 4-GPU系统适于大规模部署具有高速CPU-GPU和GPU-GPU互连的现代AI训练丛集。而Supermicro 2U 2-Node系统则可通过共享电源供应和冷却风扇来减少能耗和成本,降低碳排放,同时可匹配工作负载选用多款GPU加速器。这两款系统皆内含由目前最新的Intel Software Guard Extensions (Intel SGX) 实现的高级安全功能。
Supermicro总裁暨首席执行官Charles Liang表示:“Supermicro工程师再度为我们丰富多元的高性能GPU服务器系列打造出了全新产品,相比于市场上的其他设计更能节省成本、空间以及能耗。凭借创新的设计,我们为客户的AI和HPC(高性能运算)工作负载,提供可搭载4个NVIDIA HGX A100(代号:Redstone)GPU加速器的2U高密度GPU系統。此外,我们的2U 2节点系统经过独特设计,可共享电源供应和散热元件,进而降低营运成本以及对环境的影响。”
此款2U NVIDIA HGX A100服务器采用第3代Intel Xeon可扩展处理器平台,支持Intel Deep Learning Boost Technology,且针对分析、训练和推理工作负载进行了优化设计。此系统可搭载4颗A100 GPU并以NVIDIA NVLink技术完全互连,提供高达2.5 petaflops的AI性能。其高达320GB的GPU内存,可加速企业数据科学以及AI方面的突破。对于如BERT大型推理等复杂型对话式AI模型,此系统比上一代GPU的演算快了4倍,而在BERT大型AI训练方面则有3倍的性能提升。
此外,这些系统采用高级散热和冷却设计,成为优先考虑节点密度和电源效率的高效能丛集的理想选择。这些系统还可以采用液冷系统,从而节省更多的运营成本。该平台亦支持Intel Optane持续型内存(PMem),在GPU上进行处理之前,可以将更大的模型储存在靠近CPU的内存中。对于需要多系统互动的应用,此系统还可以配备4张NVIDIA ConnectX-6 200Gb/s网速的InfiniBand卡,以1:1 GPU-DPU的比例支持GPUDirect RDMA。
全新的2U 2节点是一种节能的资源节省架构,设计能让每个节点支持至多3张双倍宽度的GPU。每个节点还配备一个具有多达40个核心、內建AI及HPC加速器的第3代Intel Xeon可扩展处理器。广泛的AI、渲染和VDI应用都能从这种CPU和GPU的平衡设计中受益。该系统配备Supermicro的高级I/O模块(AIOM)扩充插槽,具有快速灵活的网络连接功能,可在运行工作负载和处理深度学习模式时负荷庞大的数据流量,满足高度需求的AI/ML应用程序、深度学习训练和推理。本系统也是多运行个体的高级云游戏和许多其它计算密集型VDI应用程序的理想选择。此外,虚拟内容交付网络(vCDN)能满足对流媒体服务日益增长的需求。系统内建的备用的电源供应器,能供任何一个节点都能在发生故障时使用相邻节点的电源供应器。
关于Super Micro Computer, Inc.
Supermicro (SMCI), 为高性能、高效率服务器技术的领先创新者, 是全球企业数据中心、云计算、人工智能和边缘计算系统的高级服务器Building Block Solutions的主要提供商。 Supermicro致力于通过“We Keep IT Green”计划保护环境,并为客户提供市场上最节能、最环保的解决方案。
Supermicro、Server Building Block Solutions以及We Keep IT Green为Super Micro Computer, Inc. 的商标和/或注册商标。
Intel、Intel logo以及其他Intel标志是Intel公司或其子公司的商标。所有其他品牌、名称和商标均为其拥有者之财产。
好文章,需要你的鼓励
这项研究介绍了VisCoder,一个经过专门微调的大语言模型,用于生成可执行的Python可视化代码。研究团队创建了包含20万样本的VisCode-200K数据集,结合了可执行代码示例和多轮修正对话。在PandasPlotBench基准测试中,VisCoder显著优于同等规模的开源模型,甚至在某些方面超越了GPT-4o-mini。研究还引入了自我调试评估模式,证明了反馈驱动学习对提高代码可执行性和视觉准确性的重要性。
这项研究提出了"适应再连续学习"(ACL)框架,一种创新的方法解决预训练模型在连续学习中的稳定性-可塑性困境。通过在学习新任务前先对模型进行适应性调整,ACL使模型既能更好地学习新知识(提高可塑性),又能保留已有知识(维持稳定性)。实验证明,该框架能显著提升各种连续学习方法的性能,为解决人工智能系统中的"灾难性遗忘"问题提供了有效途径。
这篇研究首次关注了CLIP模型文本编码器的对抗鲁棒性问题,提出了LEAF方法(Levenshtein高效对抗性微调)来增强文本编码器的稳健性。实验表明,LEAF显著提高了模型在面对文本扰动时的性能,在AG-News数据集上将对抗准确率从44.5%提升至63.3%。当集成到Stable Diffusion等文本到图像生成模型中时,LEAF显著提高了对抗噪声下的生成质量;在多模态检索任务中,它平均提高了10个百分点的召回率。此外,LEAF还增强了模型的可解释性,使文本嵌入的反演更加准确。
BenchHub是由韩国KAIST和Yonsei大学研究团队开发的统一评估平台,整合了38个基准中的30万个问题,按技能、学科和目标类型进行精细分类。研究显示现有评估基准存在领域分布偏差,而BenchHub通过自动分类系统和用户友好界面,让用户能根据特定需求筛选评估数据。实验证明模型在不同领域的排名差异巨大,强调了定制化评估的重要性。该平台支持多语言扩展和领域特化,为研究人员和开发者提供了灵活评估大语言模型的强大工具。