浙大城市学院幸福城市研究院“幸福三人谈”论坛现场

2024浙江高考作文题：人工智能。考试刚结束，ChatGPT已经交卷，登上热搜。

自从ChatGPT横空出世，AI大模型已经渗透到我们生活的方方面面，每个人都感觉到智能时代的便利。然而一边用得爽，一边也有担忧。

会不会有一天，我们就被AI取代了？就像今年的高考，AI写的虽然不是满分作文，可能也比相当多的考生得分高。

那么，未来世界会像科幻电影一样，被机器人称霸吗？

6月6日晚，人工智能专家、哲学家和经济学家相聚在浙大城市学院幸福城市研究院，深度解读这些问题。

“AI大潮中的真假虚实”，这就是“幸福三人谈”的首期话题。

浙大城市学院发展委员会主席、浙江大学经济学教授罗卫东

“说到AI，我首先想到的关键词是‘恐惧’。” 浙大城市学院发展委员会主席、浙江大学经济学教授罗卫东说。

浙大城市学院钱塘特聘教授、哲学家陈嘉映

浙大城市学院钱塘特聘教授、哲学家陈嘉映则把AI的能力称为“无感的计算”。

轮到人工智能专家陈小平了，作为中国科学技术大学机器人实验室主任、世界最美机器人之父，他先开了个玩笑：“感觉今天在座的是法官和陪审团，就我是被告。”

接下来，陈小平就颠覆了所有人对AI的认知。

中国科学技术大学机器人实验室主任陈小平

AI相比人类智能

青似于蓝而异于蓝

你对人工智能的理解，很可能都是错误的。

也许大部分人认为，人工智能的终极目标，是要让机器学会像人一样思考。

然而人工智能之父图灵在70多年前就拒绝了这个理念。

图灵认为，“重要的不是智能的机制，而是智能的表现。”

人工智能之父图灵

所以他提出了著名的“图灵测试”。这个测试的本质就是根据功能表现而不是内部机制判断机器有没有智能。通过图灵测试的机器就被认为有智能。发明AI这个词的麦卡锡，对AI的解读与图灵的观点一致。

70多年过去，人类创造出了AI大模型。很多人觉得，大模型看上去聪明极了，完全像一个人类。那么，它有什么破绽吗？

“研究大模型的‘奇异表现’，会发现有趣的现象。”陈小平说。

所谓奇异表现，就是AI给出的特别好，或者特别差，并且难以解释的回答。

一个测试是询问名人出生月份的奇偶性。这是个再简单不过的问题，神奇的是，大模型对这个问题的回答，开始居然是随机的。

后来，研究人员给25000个名人的出生月份加人工标签，对大模型进行补充训练。调教一番以后，它的正确率大大提升。可是，这不代表大模型学会了一切上下文中数字的奇偶性。

这说明它根本不理解什么是奇数和偶数。

还有一个简单的小学数学应用题，大模型的回答也令人啼笑皆非。它给出了一个错误的答案，但是在答案后面又附上了正确的解题过程。

就好像一个粗心的熊孩子，草稿纸上算出了正确答案，却在试卷上写错了。

人会粗心，AI可不会，那它为什么前言不搭后语？

“这说明，大模型缺乏逻辑和数学基础能力。因为奇偶性是一种数学抽象运算，它和上下文语境无关。”陈小平说，“其次大模型不能反思自身的行为，所以它的前后文可能没有因果关系。”

这个结论相当颠覆常识，因为计算机最早被发明出来就是做运算的，然而大模型却不会算术？

原来，负责计算的机器和AI大模型工作的原理就不一样。

“大模型并不是在做通常意义的计算，而是借助于关联度预测模仿各种运算。它不具有抽象思维能力，但某些情况下它能模仿这种能力。”陈小平说，“大模型能回答任何问题，但不保证正确，它也没有‘知不知’的能力。”

这就是为什么，我们在使用ChatGPT的时候，时常会觉得它在一本正经地胡说八道。

“如果你是某个领域的专家，你能一眼看出它的回答错在哪。但是对普通人来说，有些错误很难发现。”陈小平说。

还有些时候，人们会被大模型给出的漂亮回答震惊。

哇！这就是我想说的意思！它真的很懂！

“除了字词之间的统计关联之外，其实它根本没有意思。”陈小平笑道。

他给了一个形象的比喻，生命如火，思想是光，语言是光的影子，而大模型是语言的影子。

所以，“像人类一样思考”是个伪命题。AI可以像人，可以超过人，但并不需要和人类完全一样。它处理数据的速度超过人类，它还能察觉人类尚未察觉，或者根本无法察觉的一些现象和规律。

因此，人工智能并不是在机器载体上的人的智能。数字化革命和AI的进步，不仅仅是把人类的思维升级加强，而是产生了全新的智能。

“青似于蓝而异于蓝，这就是AI和人类智能的关系。”

人类会被AI取代吗？

未来可能出现“巨角兽”社会

AI发展迅猛，如今大家最担心的问题是，再这么发展下去，通用人工智能是不是就真的出现了？人类会不会被AI 取代？ AI会不会有自我意识，颠覆人类的统治呢？

对于这个问题，哲学教授陈嘉映幽默地说：“我感觉我个人早就被取代了。”

但是对于通用人工智能会不会出现，陈嘉映发出灵魂拷问：“难道人类的智能就有通用性吗？人的智能只适用于人类自己，不适用于青蛙。”

比如，一只青蛙的智能可以让它很好地在水陆两栖生存，也可以让它捕食到猎物、躲避天敌，“这些事情人类都是做不了的。所以即便是人的智能也不是全能的。”

而在专业人士看来，智能革命有非常令人期待的前景，同时伴随着风险和不确定性。

在工业革命中，某些机器的能力超过了人类，但它们依然要靠人来操作。例如，汽车取代了马，虽然让马夫失业了，可是出现了司机，造就了更多就业机会，还极大激发了社会的运输需求。

然而智能革命中，机器在某些领域完全超越人类，压根不需要人来操作。“例如，无人驾驶就是往这个方向发展的。”陈小平说，“这将彻底改变人们的出行方式，甚至是改变部分人群的居住、生活和工作方式。所以，智能革命要革工业革命的命。”

“在我国，智能技术的重点应用领域包括农业、传统制造业。这会使得过去的中低端制造业高端化。显然显然这是低风险、高效能的发展方向，非常令人期待。”陈小平说。

但智能革命也有不确定性和安全风险。例如，大模型能深度伪造难以分辨的文字、音频、视频，产生严重的伦理后果。大模型可以启发人的思路，但也很难防止一部份人抄袭大模型的输出，从而导致违背诚信、破坏教育秩序、侵犯知识产权等后果。

不过最让人担心的是，某些条件下，未来社会可能变成“巨角兽”社会。

现在大家都知道“独角兽”企业，是指公司估值超10亿美元的初创企业。

“所谓‘巨角兽’企业，指的是公司员工人均盈利超10亿美元的企业。”陈小平说，“假设一个国家的全部生产可以由巨角兽企业完成，那么30万亿美元的GDP，只需要不到3万员工就可以创造，结果会怎样？”

全社会其他人群都只能领“全民基本收入”，财富超级集中化，大部分企业消失，中产阶层也会消失。这是否意味着工业文明的终结？

听起来很科幻，但这样的可能性已经有了明显的苗头，绝不是空穴来风。未来社会如何发展，需要所有人认真思考。

“资本家大规模投入AI，本质是为了利润。”罗卫东说，“但AI也应该被用来公义和创新的。我们社会主义国家，是否能给它一种动力，实现这个理想呢？”

AI带给人类的机遇和挑战难以预计，但未来的走向，在于我们的选择。