通用大模型的“矛”与“盾”

以ChatGPT为代表的生成式AI工具，仍在持续翻涌热浪。一方面，各大企业纷纷追赶浪潮，另一方面，数据隐私安全、社会伦理等威胁论甚嚣尘上。通用大模型的红线，在何方？

在此背景下，明略科技集团高级技术总监赵亮做客Donews直播间，聚焦生成式AI的数据安全问题，探讨发展之路。

ChatGPT的突破性在哪里？

上线2个月，月活跃量破亿，ChatGPT是具有突破性的。比如大家感受到对话上下文的理解更加完整和准确，生成的内容更加自然、流畅。技术角度上，ChatGPT通过Prompt（自然语言提示）注入知识的方式将以往相对封闭的AI系统变得更具开放性，但在应用和评价时，伊莉莎效应 (ELIZA effect) 是不能忽视的。

从技术角度来看，ChatGPT是一个通用语言模型，一个见得更多、容纳更多“上下文历史”/“细节条件判断”的大语言模型。此外，可以把它看做是一个知识存储装置，可以通过Prompt来提取知识。当它具有知识，并能综合各个“细节条件判断”生成结果时，就呈现出像人一样的智能。目前大家都认为它是迄今为止最接近通用人工智能的（产品），但与标准通用人工智能的原型——“人”相比，它也有诸多不足，比如：人在实施行动前，能够预判行为可能产生的影响，加以判断并修正行为再预判，如此循环直至产生合理的行为或者终止。

如何平衡数据隐私安全和AI能力之间的关系？

生成式AI在当前在应用中存在不足，在整个落地应用的链条环节中，需要多方参与协助，去安装“保险栓”，以及制定安全协议，共同去维护数据安全。

明略科技集团面向ToB市场，会更加注重保护企业的数据安全。大模型的浪潮席卷，甚至改写了行业工作流，最为直接的优势之一是能够降本增效，在这样的背景下，明略科技提供一个灵活的、自适应的模型训练服务，以帮助客户充分利用自身积累的数据，在信息安全的基础上训练适合他们的模型，再将模型进行私有化部署，保护企业数据安全。

生成式AI是否会引发第四次工业革命？

马云曾经讲过：“很多人输就输在，对于新兴事物，第一看不见，第二看不起，第三看不懂，第四来不及。”

生成式AI工具，比如ChatGPT，引起了很多产业上一些重新的思考和变化，不管是不是一次工业革命，至少它已经引起了很大的变化。所以更多需要思考的是，在这个变化下，不同角色的人应该如何去拥抱它，或者是在这个变化中发展。

生成式AI相关领域，您认为目前有哪些机会？

生成式AI工具爆火后，其能力表现的确引发了很多想象，这些想象如果能够跟具体需求结合的话，就是机会点。

另外，ChatGPT的出现，带来的不止是新的垂直大模型领域的机会，也为历史遗留的技术问题带来的新的解决范式，旧问题得以解决，用户在需求层面也会带来新的变化，创造更多新的机会。可以说，ChatGPT的出现，掀起了AI应用探索的新高度。

以明略科技来说，明略在营销领域有17年的探索历程，积累了大量的营销侧数据。众所周知，模型的训练结果要依靠数据，掌握精准和优质的数据就意味着能够在模型的打造上更具竞争力。明略科技凭借17年来的行业探索累积了大量的知识图谱丰富经验，特别是在消费类行业，如美妆、3C、汽车、大健康等领域，知识图谱的知识表达形式更加高级，具有实体和连接，并且可以进行逻辑推理。图谱中的实体和关系决定了基于图谱生成的文章或图片的真实性、专业性和逻辑性。明略科技可以帮助客户将私有知识与大模型进行互搏，类似微软的普罗米修斯架构，从而使客户的数据飞轮更好地运转。

未来，生成式AI是否有替代人就业的可能性？

人是不可替代的，产生如此担忧的源头是我们对新兴事物发展情况和未来的不可知，当下我们要做的是积极调整心态，去拥抱新技术。归根结底，生成式AI只是一个工具，我们要把这个工具用好，去提升自身能力，将工作重心转为创新侧。

当下，我们仍在探索AIGC的能力边界，究竟它能够做到一个什么样的水准？真的会完全颠覆我们的生产和生活么？无论结果是什么，可以肯定的是，当下我们已经走在了探索之路上，通用大模型的发展，AIGC的发展，以及ChatGPT的成就，都让我们看到了AI应用探索的希望，知晓了它们能够做到的，远比我们想象的要多。