-
【思想者茶座】AI奠基人特伦斯·谢诺夫斯基:AI不是随机鹦鹉,如何应对“有主见”的AI?
最后更新: 2025-12-05 09:28:52科学变得更加精确,并且不仅仅基于某种直觉,而是基于能够区分不同理解方式的真实实验数据,建立起了一座巨大的大厦。通过物理学来“理解”这个世界,已经带我们走了很远。
而现在,我们需要在语言方面做同样的事情。我们需要发展一套真正的语言理论,要像物理学理论一样精确和强大,而这正在开始发生。原因在于,像大脑(本身是个谜)一样,我研究这些大语言模型,而它们本质上只是方程,非常复杂的方程,但我可以像物理学一样,把它们写下来。
我记得大概是在2018-2019年,应数学家们的邀请,我在国家科学院组织的一个会议上做演讲,我当时是这么对他们说的:我说,这些语言大模型能做的事情,似乎与数学家们一直告诉我们的东西相矛盾;在80年代我们刚开始研究大模型的时候,最好的数学家、统计学家、优化理论专家告诉我们,我们在做的事情很疯狂,永远行不通。因为他们更懂行,他们是专家。这些数学家非常聪明,但他们告诉我们这是不可能的。
但这并没有阻止我们。我们当时年轻气盛,就这么继续做下去了。所以,我告诉那些数学家,看,大语言模型的背后是方程。还有谁比数学家更懂得分析方程呢?先生们、女士们,你们会搞明白的。而事实也正是如此。这很神奇。现在,大语言模型变得非常强大,数学家们正在发现他们以前甚至无法想象的东西。
我给一点提示。我们生活在一个拥有三个空间维度和时间的世界里。所以维度数很低,是个很小的数字,三或四,我们生活在一种非常有限的环境中,但我们的大脑适应了它。我们的大脑非常擅长思考空间,我们生活其中,比如我们拿起杯子、处理我们所处的世界,这方面我们有很多经验。
但事实证明,这些大语言模型并不生活在三维空间里,它们生活在拥有数十亿、数万亿维度的空间里。我们无法想象那是什么样的,人类甚至无法想象六维空间,更别说十亿维了。但是数学家可以,因为他们可以发展关于这些高维空间的数学理论。
而这正是正在发生的事情。我们正在发现一个全新的、我们之前一无所知的宇宙。
它无比复杂,无比有趣,而且这是好事。它正在改变数学,催生新的数学、新概念、新思维方式,去理解大语言模型内部发生了什么。我们正在学习的东西绝对令人着迷。我不得不说,这是我从未预料到,甚至从未想象过的,但它正在开始发生。
语言学家诺姆·乔姆斯基,至今对大语言模型不买账
我给你最后一个例子。
在上个世纪,像诺姆·乔姆斯基这样的世界顶尖语言学专家认为,语言的特殊性在于有一种叫做“句法“的东西。什么是句法?就是语法。你在学校学过,不同的词有不同的角色,有名词、动词和形容词。所以它们组合在一起的顺序对于理解句子非常重要。他们基于句法建立了一个庞大的理论体系,但结果呢,我们现在知道他们完全搞错了方向。事实证明,“句法”当然也是语言的一部分,但那不是语言的关键;语言的关键叫做“语义”,它建立在句法之上,语义就是关于一个词的含义。我们现在有工具可以深入这些大语言模型内部,并且我们已经发现,有很多不同的线索可以用来判断一个词的意义,这就是上下文。
一个词可以有多种不同的意思,所以你必须从上下文中推断出它的具体含义,而这正是大语言模型所擅长的。它们非常擅长结合上下文审视这个词,以及在整个对话中你所用过的所有其他句子和词语的语境。它综合所有这些词语,来推断下一个词会是什么。我们已经深入其内部观察过了,我们发现句子的内部结构是基于语义的。在这个高维空间中,事物是根据意义的相似性聚集在一起的。而AI能回答新问题的唯一方式,就是AI能够理解这个问题。这就是我们学到的东西。
这几乎就说明了,上个世纪的语言专家们的理解偏差太大了。我认为,他们实际上阻碍了我们对语言的理解,因为他们过于专注于语言的某一个细小部分。我本人不是语言学家,所以我只能说,这真的很遗憾,因为当年那些大专家正是现在那些说“不,ChatGPT不理解语言”的人。
他们在否认,为什么?因为他们是既得利益者。他们建立了自己的声誉,曾被认为是语言学界最顶尖的人物。而现在我们已经表明,他们的理论是可疑的,他们不再是(最顶尖的)了,时代变了。抱歉,他们必须向前看。我们确实取得了重大突破。如果你不想承认,那也没关系,但我们会继续前进。
我想,我们这个访谈的听众有很大一部分是年轻人。他们不像我们这一代人,我们已经尽了最大努力。虽然我还在工作,但未来将由下一代、由年轻一代创造。我给你们的建议是,当专家告诉你某件事不可能时,不要听他们的。
因为肯定会有某个年轻人出现,并找出行得通的方法。这是我的经验,也是永恒的经验。创造革命、创造未来的总是年轻一代。马克斯·普朗克是量子理论的先驱之一。在上个世纪,物理学中的量子理论与相对论一起,是最重大的理论之一,它都是由二三十岁的年轻人创造的,就像我们当年研究神经网络一样。马克斯·普朗克年老时说了一句名言:物理学的进步是一次葬礼接一次葬礼地进行的。换句话说,是世代的更迭使进步成为可能。
量子力学奠基人马克斯·普朗克
如果我们处在一个固步自封的社会,它不是基于推动进步,而纯粹是想阻碍进步发生,那么就意味着你无法进步,事物会停滞不前。但幸运的是,人类在不断变化,因为我们有新人一代又一代人地出现,他们正在创造未来。所以,年轻人,未来是你们的。不要听我们这些“老古董“的话,我们在这里只是为了帮助你们。
政府对AI监管过细过早,不利于探索试错
观察者网:太棒了!我希望我们的年轻读者能听到您的话,这对他们很有帮助。最后一个问题。关于AI治理,目前像欧盟、美国和中国等不同国家和地区采取了不同的监管方法。您也倡导个体包容的全球化,以避免冷战式的AI竞赛。您认为这会导致全球技术格局碎片化吗?有哪些实际步骤可能促进国际合作?
特伦斯·谢诺夫斯基: 你知道,我们以前经历过这种情况,我们也会再次经历。我是全球最大规模人工智能会议之一的神经信息处理系统大会(NeurIPS)基金会的主席,今年12月,我们将有3万人在圣地亚哥参加这个会议。它从39年前的几百人起步,至今已有万人参加的规模。
我们对这些问题非常敏感。换句话说,我们不仅仅是生活在真空中制造机器的工程师和科学家,我们也是社会的一部分,我们和公众一样关注这些问题。不同之处在于,我们理解这项技术,并正在努力解决所有我们知道AI技术存在的问题。
而我们能够做到这一点的另一个条件是,我们必须能够不断探索和尝试新事物。如果政府限制说不能做这个,不能做那个,那我们就永远无法解决这些问题。因为很多进步都来自试错。所以我赞成自我监管,我认为我们能做到,我们的社群里有真正聪明的人可以帮我们做到这一点。
目前,我认为政府试图加以限制还为时过早。因为如果不进行探索,你无法真正理解什么是防止坏事发生的最佳方式。显然,一旦出现意外后果,你希望防止最坏的情况发生,而这已经开始发生了。
一个例子是,欧盟提出了一个长达100页的《人工智能法案》,里面充满了各种细节,比如,你不能用AI来评估求职简历。这很荒谬。就好像说,你不能用大模型来改善你的英语语法。这100页的法案,全是细枝末节,微观管理,你打算如何执行呢,这很荒谬,这是错误的做法。我认为我们能找到更好的方法。
不同国家会以不同方式处理,我认为中国做得相当不错。我刚好了解到,中国出台的规则比欧盟提出的要合理得多。美国目前治理机构陷入僵局,所以没有新规则出台。这也许是件好事,也许这就是为什么美国AI技术能够快速推进、能取得快速进展的原因。
我没有定论。每个人都有自己的看法,做任何事都没有所谓的最佳方式。我们只是在摸索,尽力而为。历史告诉我们,必须让事情随着时间逐步展开。只要决策者心里装着人类的最大利益,事情总会解决的。
观察者网:好!您对AI技术的信心令人鼓舞。感谢您用通俗的语言讲述这么复杂的问题,就像您说的,一切才刚刚开始,我们每个人都应该去尝试这项新技术,感谢您接受我们的采访!
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
标签-
本文仅代表作者个人观点。
- 责任编辑: 苏堤
-
直通北部湾,中国打通西南出海新水道 评论 25
沙特关键输油管道遇袭,“预防性关闭” 评论 67
“我乐见爱尔兰统一”,英国:??? 评论 86
俄罗斯警告:在切尔诺贝利禁区,乌军有大动作 评论 55
1北大硕士因本科非名校年薪被降5万,如何看待市场上存在的第一学历歧视?评论 106 赞 3
2拼低工资?我认识好几个造船厂的管理者,太了解造船了评论 74 赞 46
3未来发生在英语上的事,现在已经在俄语上发生了评论 68 赞 34
4这种每年被中国人狂炫近 200 万吨的水果,终于国产化了!价格跳水评论 60 赞 9
5谁在阻碍中国人了解印度的饮食评论 50 赞 1
6粤语童谣纳入了人教版音乐课,让外省孩子们多学方言,这是文化自信的表现评论 49 赞 4
7疯狂的台积电:3纳米卖爆,20座厂在建,展望后摩尔时代评论 43 赞 1
8卖土豆的内蒙小城,掏走阿里华为上百亿评论 42 赞 13
9胡塞武装势如破竹!美国力不从心,沙特危矣评论 36 赞 31
10中东战争给美国亚太盟友上了一堂地缘课评论 27 赞 5最新闻 Hot-
“胡塞主动联系,希望美国‘不要介入’”
-
36年来首次!智利政府不举行阿连德纪念仪式
-
“瑞典民主党若首次入阁,将进一步呼应欧洲极右翼”
-
欧洲央行行长:当前通胀冲击将持续更长时间
-
“特朗普说给美国选民听的”
-
“小博索纳罗有份反华文件,背后藏着万斯的影子”
-
沙特关键输油管道遇袭,“预防性关闭”
-
乌方放风:正准备于10月恢复谈判,三方一起谈
-
法拉奇不到24小时吸金7200万英镑,“远超英国两大党”
-
“我乐见爱尔兰统一”,英国:???
-
俄罗斯警告:在切尔诺贝利禁区,乌军有大动作
-
离谱!特朗普:人类灭绝?我就担心中国…
-
“这是一次又一次的背叛”
-
911纪念仪式,穆斯林市长还是去了
-
“瑞典不得不服软,中国太硬”
-
日本前外相岩屋毅等将访华,“感谢中方接受”
-

观察员






上海市互联网违法与不良信息举报中心