-
【思想者茶座】AI奠基人特伦斯·谢诺夫斯基:AI不是随机鹦鹉,如何应对“有主见”的AI?
最后更新: 2025-12-05 09:28:52比如,当手持计算器在20世纪80年代开始普及时,每个人都说,天哪,人类将不会做算术了,因为你不再需要计算能力了,只需按下按钮就能得到答案。那么,这是否意味着我们不再教学生算术了呢?不,后来的学生们仍然像我们上学时一样学习如何加减乘除。这是为什么?因为事实证明,加减乘数是大脑能够思考数字、使用数字的基础概念、核心基础。这需要通过强化学习来打好基础——练习、练习、再练习。
再举个好例子。比方说打乒乓球吧,刚开始学的时候只是发球,但球打不过去,或者打飞了等等。但随着你练得越来越多,你的水平就越来越高。我的意思是,如何通过学习掌握一门技能?那就是强化学习。
作者认为,新技术出现后,人类不会放弃传统能力,比如计算器早就发明出来了,但是数学运算能力仍然还是一代一代传承
现在你知道问题所在了。不幸的是,这正在美国发生。有人主张,也许不需要练习,只要读一本关于乒乓球的书就行了,书里有图片教你怎么握拍等等。但是,书无法替代亲自练习。你必须进入现实世界,真正去打乒乓球才能提高打球技术。做算术也是一样的道理。你不能只按按钮,也不能只读书。你必须进入现实世界,思考数字,使用数字,哪怕只是为了估算。你要对数字有良好的感觉,这一点必须通过练习来获得。
所以,看,这就是你现在正在做的事情,你在练习英语,你在实践,这就是保持认知能力的方法。但顺便说一句,如果你停止练习,任何技能都会开始生疏。你必须持续使用才能维持这些技能。所以不用担心,使用AI不会让你失去语言能力,未来的人们也仍然需要用以前的方式来学习语言技能。
而且,你使用AI的方式恰恰是提高语言技能的正确途径。顺便说一下,很多英语是第二语言的科学家觉得写作非常困难。我的实验室里也有这样的人,他们年轻的时候除了在学校学英语,其余时间对外语接触不多。他们的英语还算不错,但写作时语法仍不太准确。英语是一门很难写的语言,也许没有中文那么难,但也相当困难。所以他们现在的做法是,写好论文后交给ChatGPT,说“请改进语法”。结果你看,效果很好。所以,这是一个极好的工具,可以将你自身的技能提升到更高的水平。
AI在某方面比你强,就会抢走你的工作,这是错误的看法
观察者网:下一个问题是关于工作的。人们很担忧, AI的到来会砸掉很多人的饭碗。特别是在中国,除了AI,还有机器人等技术,AI正开始逐步替代很多领域的工作,比如翻译,以及许多初级文职工作。您认为,人们应该如何为这种转变做准备?在这个AI成为常见工具的世界里,哪些新技能对人类取得成功最为重要,会成为人类最根本的、独一无二的特质?
特伦斯·谢诺夫斯基:我做公开演讲时,最常被问到的问题就是:我会失业吗?人们为什么害怕失业?因为他们从报纸上读到,AI来了,人们可能会失业。报纸上这么说是为了销量,所以他们要抛出能吸引眼球的东西。如果媒体上说,AI在某方面比你强,那你的工作就会消失,这是一种错误的看法。
顺便说一下,2018年,我在我的第一本书《深度学习:智能时代的核心驱动力量》(这本书有中文版)里就做过预测:你不会失去工作,但你的工作会发生变化;你需要学习新的技能,以便能够使用这些工具来提高你的工作表现;如果你不学习这些技能,你可能会失业。
如果你现在是成年人,你就需要自己去学习,这将极大地提高你的工作能力和生活质量。因为你可以从重复性的、繁琐的工作中解脱出来,腾出时间去做更有创造性的事情。这正是每个领域正在发生的。
在医学领域,医生使用AI来帮助他们诊断疾病,这比他们单独诊断的效果更好。律师现在能够在更短的时间内处理更多的案件,原本需要数周时间,现在按个按钮,当天就能得到结果。建筑师也一样,他们能更快地设计出房屋。这就是未来的方向。这将会改变一切。
我们再回到农业的例子。我说过以前99%的人在务农,他们现在去哪了?他们在工厂工作,在办公室工作。工业革命等一系列技术革命发生之后,新的工作岗位会被不断创造出来,这些是以前不存在的。将来的孩子们会以不同的方式工作学习,从事新创造的工作。
互联网就是一个很好的例子。想想现在所有的工作:网页设计师、互联网内容创作者(如播客)等等,之前都是没有的。举个更贴切的例子:过去,如果你想成为一名记者,你得去报社工作。现在不需要了,因为有社交媒体,有博客、播客等等。你可以作为一名“网红“过上很好的生活,可以在家工作,不用通勤。“网红“这个职业以前是不存在的,因为互联网改变了一切。
AI的到来也会发生同样的事情。它会改变一些东西,有些人可能会落后,通常是像我们这样的年长者。但年轻人会直接接纳它,他们没问题。他们会像学习任何新事物那样去学习AI。社会的进步就是这样发生的。
AI不是随机鹦鹉,如何应对“有主见”的AI,需要年轻一代的努力
观察者网:下一个问题是关于大模型的偏见,您之前也已经提到过,比如我搜索同一个中国政治类话题,DeepSeek中文版的内容比较正常,但是如果切换成英文搜索,或者用ChatGPT直接查英文时,其回复常常表现出与西方媒体叙事一致的观点,负面、带有偏见。您也曾警告过在全球地缘政治竞争背景下AI被武器化的风险,这是个非常及时且重要的提醒。我的问题是,如何来减轻AI系统中的这种政治和文化偏见?
特伦斯·谢诺夫斯基:这是个很好的问题,也是一个意外后果的例子。我们当初没有内置这方面的考量,但它出现了。
AI是如何变得有偏见的?因为它吸纳了人类所有的文本资料,而人类本身就是有偏见的,所以它吸收了所有这些偏见。现在我的问题是:我们想要扭转这些偏见,你觉得,是扭转人类的偏见容易,还是扭转大语言模型的偏见容易?哪个会更容易?
观察者网:大语言模型。
特伦斯·谢诺夫斯基:是的,说得对,就是这样。
观察者网:确实。对于人类来说,改变别人想法很难……
特伦斯·谢诺夫斯基:很难。没错,正是如此。所以,正如我前面所说,我们还处于起步阶段。我们会找出改变偏见的方法,而且这已经在发生了,所以不用担心。
还有另一点值得思考。人类非常有主见,我们都有各自的看法,真正的问题是,我们将如何应对那些同样“有主见”的大语言模型。我们人类在成长过程中面对的是前所未有的事物,这和文化有关。你在中国长大,与你在美国长大很不同,也与你在非洲某些地方长大不同。那么,哪种文化更好呢?
观察者网:不能说哪种更好。
特伦斯·谢诺夫斯基:说得对。所以,如果科学家用所有文化来训练大语言模型,AI模型要怎么判断你喜欢哪一种呢?实际上,大语言模型正在教给我们一些东西,一些我们应该吸取的教训,我认为这将帮助我们理解自身。
我举一个例子。目前专家们正在进行一场巨大的辩论,这些专家包括语言学家、研究大脑如何思考并产生新想法的认知科学家,还有心理学家,争议的焦点在于大语言模型是否理解语言。
作者反驳:AI不是随机鹦鹉。但是AI是否真的理解人类提出的问题,尚未定论。
很多语言学家说,不,它们只是“随机鹦鹉”。它们只是被灌输了所有这些词语,然后只是鹦鹉学舌般地回给你。但也有人说,等等,AI现在能够回答从没有人问过的新问题;所以,如果它能输出新的内容,那就不仅仅是鹦鹉学舌了;如果仅仅是鹦鹉学舌,不理解指令,怎么能回答我的问题呢?
所以,实际上,学者们无法下定论。如果专家们都无法确定这个问题的答案,这就告诉我们,人类自己并不理解“理解”是什么。确切地说,如果人类都无法达成一致,那就意味着我们使用这个词的方式有问题。不仅仅是“理解”,还有什么是“语言”?什么是“意识”?你知道,这些词在我们使用时含义不定,我们似乎知道它们的意思,但其中有细微差别和多维度的含义,很难精确界定。
这真正告诉我们的是,我们需要一门更好的语言科学。我这么说是什么意思?如果回溯到科学革命时期,大概是16到17世纪,甚至更早,人们对于投掷长矛时会发生什么,或者太阳上有什么,仅有一些直觉。当时的人们产生了各种理论,比如认为是一架马车驶过天空等等。如果他们掌握了某种语言,可以使用类比的方法,也就能带领人类的认知走出很远。但是,有一群人说,等等,让我们看看能不能做得更好,关于运动、投掷物体等等,让我们提出更精确的、更好的定义,这就诞生了物理学,这显然首先要归功于牛顿的工作, 这是一个内核,也是一个教训:如果人类想取得进步,就必须超越语言,必须有精确的定义,以及可以量化的词语之间的关系,比如做实验,写方程,这就是我们今天的处境。
标签-
本文仅代表作者个人观点。
- 责任编辑: 苏堤
-
直通北部湾,中国打通西南出海新水道 评论 25
沙特关键输油管道遇袭,“预防性关闭” 评论 67
“我乐见爱尔兰统一”,英国:??? 评论 86
俄罗斯警告:在切尔诺贝利禁区,乌军有大动作 评论 55
1北大硕士因本科非名校年薪被降5万,如何看待市场上存在的第一学历歧视?评论 106 赞 3
2拼低工资?我认识好几个造船厂的管理者,太了解造船了评论 74 赞 46
3未来发生在英语上的事,现在已经在俄语上发生了评论 68 赞 34
4这种每年被中国人狂炫近 200 万吨的水果,终于国产化了!价格跳水评论 60 赞 9
5谁在阻碍中国人了解印度的饮食评论 50 赞 1
6粤语童谣纳入了人教版音乐课,让外省孩子们多学方言,这是文化自信的表现评论 49 赞 4
7疯狂的台积电:3纳米卖爆,20座厂在建,展望后摩尔时代评论 43 赞 1
8卖土豆的内蒙小城,掏走阿里华为上百亿评论 42 赞 13
9胡塞武装势如破竹!美国力不从心,沙特危矣评论 36 赞 31
10中东战争给美国亚太盟友上了一堂地缘课评论 27 赞 5最新闻 Hot-
“胡塞主动联系,希望美国‘不要介入’”
-
36年来首次!智利政府不举行阿连德纪念仪式
-
“瑞典民主党若首次入阁,将进一步呼应欧洲极右翼”
-
欧洲央行行长:当前通胀冲击将持续更长时间
-
“特朗普说给美国选民听的”
-
“小博索纳罗有份反华文件,背后藏着万斯的影子”
-
沙特关键输油管道遇袭,“预防性关闭”
-
乌方放风:正准备于10月恢复谈判,三方一起谈
-
法拉奇不到24小时吸金7200万英镑,“远超英国两大党”
-
“我乐见爱尔兰统一”,英国:???
-
俄罗斯警告:在切尔诺贝利禁区,乌军有大动作
-
离谱!特朗普:人类灭绝?我就担心中国…
-
“这是一次又一次的背叛”
-
911纪念仪式,穆斯林市长还是去了
-
“瑞典不得不服软,中国太硬”
-
日本前外相岩屋毅等将访华,“感谢中方接受”
-

观察员





上海市互联网违法与不良信息举报中心