[中国,上海,2023年7月10日]近日,昇腾人工智能产业高峰论坛在上海举办,会上华为联合26家AI、金融、运营商、互联网行业领军企业、高校及科研院所,共同启动昇腾AI大模型联合创新。华为侧将基于昇腾AI提供澎湃算力与高效开发工具,携手伙伴、客户一同提升大模型开发、训练、微调、部署的效率和模型精度,加速大模型创新业务上线,促进产业数智化转型升级。
基于昇腾AI的大模型联合创新正式启动
伴随大模型带来的生成式AI突破,人工智能正在进入一个新的时代。为了更好地支持AI大模型的发展,去年华为发布了从规划、开发到产业化的人工智能大模型全流程使能体系。该体系包括建立大模型沙盘,规划并引领产业界真正需要的大模型;推出大模型开发使能平台,帮助开发者快速完成大模型的开发;在大模型训练后,与产业伙伴合作构建大模型产业联合体,以期让更多合作伙伴基于大模型推出场景化解决方案并实现产业化推广。
为了进一步推动联合创新,华为携手26家AI、金融、运营商、互联网行业领军企业、高校及科研院所,共同启动昇腾AI大模型联合创新,将基于昇腾AI基础软硬件平台,联合伙伴提升大模型开发、训练部署的效率和精度,助力伙伴高效训练大模型、加速业务上线,促进产业数智化转型升级。
目前,昇腾AI产业快速发展,已发展30多家硬件伙伴、1200多家ISV,联合推出了2500多个行业AI解决方案,规模服务于运营商、互联网、金融等行业核心场景。基于昇腾AI澎湃算力,原生研发、适配的大模型超过30个,占据中国大模型近一半数量。其中,武汉大学基于昇腾AI推出了大模型武汉.LuoJia,包括全球首个遥感影像智能解译专用框架武汉.LuoJiaNET和业界最大的遥感影像样本数据集武汉.LuoJiaSET,推动智能遥感技术在自然资源、海洋、农业、森林、应急等行业的广泛应用。中科院自动化所发布基于昇腾AI的“紫东太初”2.0全模态大模型,在语音、图像和文本三模态的基础上,加入视频、信号、3D点云等模态数据,研究突破了认知增强的多模态关联等关键技术,具备全模态理解能力、生成能力和关联能力,“紫东太初”大模型已在神经外科手术导航、法律咨询、医疗多模态鉴别诊断等领域开始系列引领性、示范性应用。
华为云盘古大模型3.0基于鲲鹏和昇腾为基础的AI算力云平台,以及异构计算架构CANN、全场景AI框架昇思MindSpore,AI开发生产线ModelArts等,为客户提供100亿参数、380亿参数、710亿参数和1000亿参数的系列化基础大模型,匹配客户不同场景、不同时延、不同响应速度的行业多样化需求,目前,华为云盘古大模型已在金融、制造、医药研发、煤矿、铁路等诸多行业发挥着巨大价值。
未来,华为将继续携手伙伴基于昇腾AI进行大模型联合创新,把大模型带入更多行业场景,实现产业化推广,共同促进行业智能化升级。
好文章,需要你的鼓励
这项研究由浙江大学、复旦大学等机构联合完成,提出了ReVisual-R1模型,通过创新的三阶段训练方法显著提升了多模态大语言模型的推理能力。研究发现优化的纯文本冷启动训练、解决强化学习中的梯度停滞问题、以及分阶段训练策略是关键因素。ReVisual-R1在各类推理基准测试中超越了现有开源模型,甚至在某些任务上超过了商业模型,为多模态推理研究开辟了新途径。
这项研究提出了一种名为"批评式微调"的创新方法,证明仅使用一个问题的批评数据就能显著提升大语言模型的推理能力。研究团队对Qwen和Llama系列模型进行实验,发现这种方法在数学和逻辑推理任务上都取得了显著提升,平均提高15-16个百分点,而且只需要强化学习方法1/20的计算资源。这种简单高效的方法为释放预训练模型的潜在推理能力提供了新途径。
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。