当前,AI大模型技术蓬勃发展,人工智能产业在巨变中迎来突破性成长,未来必将成为新一代生产力的中流砥柱。6月12日,在以“AI大模型,打造新一代生产力”为主题的2023 NAVIGATE领航者峰会智算解决方案技术专场上,紫光股份旗下新华三集团发布了全新的新华三智算解决方案,并在会上围绕AI大模型的应用,与上海云脉芯联科技有限公司、博雅辑因(北京)生物科技有限公司的专家代表们共同分享了AI创新技术的实践与应用,全面助推AI业务加速前行。
新华三集团解决方案部副总裁李飞
在刚刚落幕的2023 NAVIGATE领航者峰会上,新华三集团重磅发布了“百业灵犀LinSeer”私域大模型,可与业务深度结合提升工作效率,持续优化算法和积累公域数据,为客户提供最新知识能力。同时推出了“AIGC开放战略”,既支持“百业灵犀+新华三ICT基础架构”的模式保障数据安全,实现最优配合,同时也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。
新华三集团解决方案部副总裁李飞在智算解决方案技术论坛演讲中表示,为了更好地推动客户人工智能场景落地,新华三集团依托绿洲平台、傲飞算力平台,结合强大的人工智能服务器、无损网络解决方案、高性能存储全系列产品,形成了端到端的智算解决方案:
支持从大模型到基础设施的一站式应用部署,为客户提供大模型的推理、微调的咨询与调试服务,满足客户的业务场景化需求。
能够将行业数据要素统一治理和管理,以业务场景需求为导向,帮助客户积累自己的知识模型,对医疗、教育提供数据套件,提升数据治理效率。
基于新华三多年强大的基础设施技术积累,以算力服务器,高性能的存储,智能无损网络构建起了整个智算解决方案的基础设施,支撑千亿大模型的训练和推理需求。
新华三提供的液冷产品家族与数字新能源产品,可以助力客户打造可PUE<1.1的数据中心,为客户带来更加高效、清洁的算力资源。
上海云脉芯联科技有限公司解决方案架构师张文杰在《为AI加速!SeerFabric助力智算中心制胜AI时代》的主题演讲中表示,云脉芯联与新华三集团联合打造AI驱动的算力网络,实现算力网络快速交付,故障自愈,满足了大模型计算需求。
上海云脉芯联科技有限公司解决方案架构师张文杰
目前,新华三集团的智算解决方案已在众多行业中实践落地。博雅辑因(北京)生物科技有限公司生物信息副总监张永健在《智算,引领生命科学之变》主题演讲中表示,新华三智算解决方案通过向导式和图形化的开放性架构,实现了流水线式开发,简化了生物医学的大模型开发流程和操作门槛,有效提高了开发分析流程和软件的效率。
博雅辑因(北京)生物科技有限公司生物信息副总监张永健
未来,新华三集团将持续承担人工智能领域科研课题,联合大模型产业上下游公司探索AI场景落地,助力产业智能化升级。躬身入局智能新时代,精研云智原生技术,深耕客户应用场景,以务实理念打造领先的数字化解决方案,通过不断进化的数字大脑加速推进数字化变革的智能化升级,做百行百业最值得信赖的合作伙伴。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。