以ChatGPT为代表的生成式AI工具,仍在持续翻涌热浪。一方面,各大企业纷纷追赶浪潮,另一方面,数据隐私安全、社会伦理等威胁论甚嚣尘上。通用大模型的红线,在何方?
在此背景下,明略科技集团高级技术总监赵亮做客Donews直播间,聚焦生成式AI的数据安全问题,探讨发展之路。
ChatGPT的突破性在哪里?
上线2个月,月活跃量破亿,ChatGPT是具有突破性的。比如大家感受到对话上下文的理解更加完整和准确,生成的内容更加自然、流畅。技术角度上,ChatGPT通过Prompt(自然语言提示)注入知识的方式将以往相对封闭的AI系统变得更具开放性,但在应用和评价时,伊莉莎效应 (ELIZA effect) 是不能忽视的。
从技术角度来看,ChatGPT是一个通用语言模型,一个见得更多、容纳更多“上下文历史”/“细节条件判断”的大语言模型。此外,可以把它看做是一个知识存储装置,可以通过Prompt来提取知识。当它具有知识,并能综合各个“细节条件判断”生成结果时,就呈现出像人一样的智能。目前大家都认为它是迄今为止最接近通用人工智能的(产品),但与标准通用人工智能的原型——“人”相比,它也有诸多不足,比如:人在实施行动前,能够预判行为可能产生的影响,加以判断并修正行为再预判,如此循环直至产生合理的行为或者终止。
如何平衡数据隐私安全和AI能力之间的关系?
生成式AI在当前在应用中存在不足,在整个落地应用的链条环节中,需要多方参与协助,去安装“保险栓”,以及制定安全协议,共同去维护数据安全。
明略科技集团面向ToB市场,会更加注重保护企业的数据安全。大模型的浪潮席卷,甚至改写了行业工作流,最为直接的优势之一是能够降本增效,在这样的背景下,明略科技提供一个灵活的、自适应的模型训练服务,以帮助客户充分利用自身积累的数据,在信息安全的基础上训练适合他们的模型,再将模型进行私有化部署,保护企业数据安全。
生成式AI是否会引发第四次工业革命?
马云曾经讲过:“很多人输就输在,对于新兴事物,第一看不见,第二看不起,第三看不懂,第四来不及。”
生成式AI工具,比如ChatGPT,引起了很多产业上一些重新的思考和变化,不管是不是一次工业革命,至少它已经引起了很大的变化。所以更多需要思考的是,在这个变化下,不同角色的人应该如何去拥抱它,或者是在这个变化中发展。
生成式AI相关领域,您认为目前有哪些机会?
生成式AI工具爆火后,其能力表现的确引发了很多想象,这些想象如果能够跟具体需求结合的话,就是机会点。
另外,ChatGPT的出现,带来的不止是新的垂直大模型领域的机会,也为历史遗留的技术问题带来的新的解决范式,旧问题得以解决,用户在需求层面也会带来新的变化,创造更多新的机会。可以说,ChatGPT的出现,掀起了AI应用探索的新高度。
以明略科技来说,明略在营销领域有17年的探索历程,积累了大量的营销侧数据。众所周知,模型的训练结果要依靠数据,掌握精准和优质的数据就意味着能够在模型的打造上更具竞争力。明略科技凭借17年来的行业探索累积了大量的知识图谱丰富经验,特别是在消费类行业,如美妆、3C、汽车、大健康等领域,知识图谱的知识表达形式更加高级,具有实体和连接,并且可以进行逻辑推理。图谱中的实体和关系决定了基于图谱生成的文章或图片的真实性、专业性和逻辑性。明略科技可以帮助客户将私有知识与大模型进行互搏,类似微软的普罗米修斯架构,从而使客户的数据飞轮更好地运转。
未来,生成式AI是否有替代人就业的可能性?
人是不可替代的,产生如此担忧的源头是我们对新兴事物发展情况和未来的不可知,当下我们要做的是积极调整心态,去拥抱新技术。归根结底,生成式AI只是一个工具,我们要把这个工具用好,去提升自身能力,将工作重心转为创新侧。
当下,我们仍在探索AIGC的能力边界,究竟它能够做到一个什么样的水准?真的会完全颠覆我们的生产和生活么?无论结果是什么,可以肯定的是,当下我们已经走在了探索之路上,通用大模型的发展,AIGC的发展,以及ChatGPT的成就,都让我们看到了AI应用探索的希望,知晓了它们能够做到的,远比我们想象的要多。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
中科院联合字节跳动开发全新AI评测基准TreeBench,揭示当前最先进模型在复杂视觉推理上的重大缺陷。即使OpenAI o3也仅获得54.87%分数。研究团队同时提出TreeVGR训练方法,通过要求AI同时给出答案和精确定位,实现真正可追溯的视觉推理,为构建更透明可信的AI系统开辟新路径。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
PyVision是上海AI实验室开发的革命性视觉推理框架,让AI系统能够根据具体问题动态创造Python工具,而非依赖预设工具集。通过多轮交互机制,PyVision在多项基准测试中实现显著性能提升,其中在符号视觉任务上提升达31.1%。该框架展现了从"工具使用者"到"工具创造者"的AI能力跃迁,为通用人工智能的发展开辟了新路径。