-
拉斯·特维德:我们即将经历下一个技术奇点,超智能时代人类会更加不平等吗?
最后更新: 2025-11-14 08:59:46观察者网:我想更深入聊聊大模型,我与您在一些看法上可能不同,从现在的角度看,似乎“Scaling Law”(大模型的规模定律)已经到达了一个极限。各家大模型可获取的数据量也在逼近上限。大模型的未来将如何?我们会不会以其他算法路线取代当下的大模型范式?
拉斯:我认为,大语言模型的基本概念可能会发生变化。当前,当你给它一个任务时,它会经历处理过程,随后因存储等问题而遗忘相关知识。若其记忆能力更强,就能更高效地自我教学。
针对你提到的“数据枯竭”问题,我认为它也存在解决方案,这被称为AI的“数据墙”(data wall)。现在互联网上的数据量仍在增长,有用的数据每年大概增长5%左右,并不算多;而训练数据正在逐步追上它。
所以解决问题的关键在于,让AI进行模拟,也就是自我对弈。早期最吸引人的例子之一是AlphaGo。它先在海量历史棋谱上进行训练,然后基于上述经验再与自己对弈提升能力。一年后他们推出了AlphaGo Zero,这个AI从零基础开始训练。一开始它下得就像一个新手,但3天后它就达到世界冠军水平,40天后就彻底击败了上一代模型。
目前,许多模型采用类似的自我博弈训练。例如Waymo公司99.9%的自动驾驶训练发生在仿真环境中,他们可以以比现实快35000倍的速度进行模拟。又比如AI模型在寻找蛋白折叠规律的速度比人类传统速度快上百万倍。
2017年柯洁惨败于AlphaGo
同样,你还可以对世界经济系统、政治系统等进行建模和自我对弈。事实上,AI几乎在任何领域都可以实现自我博弈,以创造出庞大的可能性。这是一门称为系统动力学的学科,而它仍处于萌芽状态,但这意味着大语言模型能积累远超任何人类曾在任何数据库或互联网上发布过的知识总量。我认为这点非常重要。
另一方面,物理世界中的AI机器人之类的具身智能也可以实时学习,我们可以接入它们的系统并利用它们的学习成果促进AI模型发展。事实上,如果外面有数百万乃至数十亿台从自动驾驶汽车到家庭、办公室、餐馆之类的机器人,它们不仅可以以一种当今互联网所不具备的方式去学习世界如何运作,而且由于世界在不断变化,它们会实时捕捉这种变化,并用于补充这些模型的不足。
因此,我不认为“数据墙”不可跨越;这些模型将会捕捉并自动创造信息。我对大语言模型的发展持相当乐观的态度。
观察者网:但已有部分论文表明,用AI自生成数据训练大模型会导致“中毒”、加深偏见。您怎么看?
拉斯:是的,我理解你所说的逻辑,我们会默认AI自主合成数据是正确的,而一旦这些数据是错误的,AI会基于错误的数据进行训练,就会合成出更多错误数据放大偏差。
但我认为这可以通过工程化方式进行解决,大语言模型的发展能够应对许多问题。举例而言,随着新的GPT-5的出现,我们拥有了多模型路由体系(混合专家体系,MoE)。当你给出一个提示语时,系统会判断这个提示语应该被发送到哪个模型。
我们也看到,最近DeepSeek和Claude这些模型在处理AI幻觉的时候相比于早期版本更加在行了。当你不需要AI幻觉的时候,他们可以尽量约束相关参数,而当你需要它们散发想象力的时候,他们释放相关参数。例如,我说“请为某件事起草一个好标语时”,它就会调用更具想象力的路径。
就在我们见面之前,我还问过AI这样一个问题:“世界历史上是否有一个时期,罗马帝国与中华帝国的人口合计占到全球的三分之二?”它给出了正确答案。也就是说,模型在“何时求真、何时发散”的判别上在进步,并且会进行你所谓的红队式(red team,即西方在军事演习、网络安全演习等领域中扮演敌人或竞争对手角色的群体)对抗性审查:对给定信息主动追问“真的正确吗”,以进行审查与反复核验。
当然,你提到的问题确实存在,但我认为AI会在这一领域持续改进。
观察者网:您认为智能发展必将超越国界,那么国际合作在人工智能发展中有多重要?您认为在超级智能领域采取碎片化、竞争性的做法会带来哪些风险?
拉斯:我认为国际合作非常有用。但在某种程度上,我对能否顺利实现国际合作持一点怀疑,因为国家之间的竞争非常激烈。不过,已出现一些积极迹象,例如机器人间数据交换的通用协议。这是个不错的方向。
至于我个人,我最关心,也最需要国际合作推进的是版权。原因很简单:AI与国家安全、财富与成功等方方面面密切相关。人们会意识到,对于各类知识的版权管制越宽松,你的AI模型演进越快;而如果你完全放松版权,AI就会以最快速度演进。
就我个人而言,我赞成涉及各类文化、知识产品的版权法律可以宽松化,如果中国、美国、欧盟、韩国、日本等能够就版权法的规则达成一致,将更为有利。我不知道这会不会发生,但我认为那将极其有用。
在美国,总统科学技术顾问委员会主席大卫·萨克斯正牵头AI政策。他是一位非常成功的企业家与风投家,对AI的商业与技术都有深刻理解。他正在致力于让AI法律变得统一且简明,并且目标是告诉大家:在未来10年内我们不打算修改它,虽然我不认为这一目标能够实现,但他的想法就是让AI法规尽可能地简单而和谐。
许多人会说:“用我的书、别人的音乐等内容来训练AI,是在偷我们的财产。”但我这本书就大量用到了AI。我把AI看作人人可“演奏”的创造性钢琴。我认为我们应当允许AI尽可能地摄取内容,并在更广的范围内使用而不必支付无数项版权费;因为它会成为整个人类共同的平台,其成果会回馈到所有人。
“DeepSeek时刻”后越来越多的国人接触AI
观察者网:若人工智能在所有领域超越人类认知,人类在人工智能演进进程中应承担何种目标与贡献?我们应当如何在超级智能时代维系自我意义与自主性?
拉斯:首先,若从更高的视角看:如果人类真的创造出超智能,而这种超智能最终遍及整个宇宙,甚至成为“宇宙意识”,那么我们就是带来这一切的起源。因此,我要说的第一点是:我们应当珍视自身在创造这一切中的角色。但这与我们的日常生活并无直接关联。
回到日常层面,我认为我们应当追寻那些既特殊又令人愉悦的价值,以便在一个大部分GDP由AI创造的世界中,继续坚持人的独特价值:例如同情心、好奇心与创造力等。届时,每个人都可以探索自我价值:我是作家吗?我是艺术家吗?我喜欢照顾孩子吗?我想帮助无家可归的狗吗?我是否想要重建已消逝的自然吗?诸如此类。
我们需要认识到,人类具备意识,而AI并不具备。我们可以体验这个世界,而AI不行。这意味着我们可以基于我们对世界的主观体验来为彼此创造新事物,改造世界。
我有时把当下处境与人类与猫狗的关系作类比。最初,当人类开始与狗共处时,它们尚且是狼。我们和狗共同生活的理由是:它们可以保护我们,而我们喂养它们。但如今我们并不需要狗来保护我们,我们只是喜欢狗。同样,我们最初养猫是因为它们会捕食老鼠;而现在鼠患不再普遍,但是我们喜欢猫。
如果我家里有10条狗和10只猫,这并不会提升我的生产率;事实上它们会使我的生产率下降,因为照料猫狗既耗时也花钱。同理,单纯增加人口并不必然提升技术的生产率。但人类可以很友善,我们可以以善意激励、鼓舞他人。
现实生活中,在线音乐几乎是免费的:我订阅了Spotify、Apple Music以及其他诸多服务。尽管如此,我仍非常喜欢去音乐会,也喜欢走进爵士乐吧,看着三位音乐家在我面前演奏。他们演奏的音乐或许相同,但我能看见他们,这是完全不同的体验,因为他们是人。因此,我们必须把重心放在人与人的真实互动上。
由此,未来的生活方式会很不一样;但我们也将有机会提供比今天更多的基础性公共免费服务。未来也许不仅教育与医疗是免费的,还可能包括基础免费交通、基础免费互联网和基础免费AI等服务。也就是说,未来人们的基本需求将大体得到满足;若他们希望获得更多,则需要通过工作来实现。
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
标签-
本文仅代表作者个人观点。
- 责任编辑: 唐晓甫
-
1国家应当开征单身税来奖励生育,不管男女,只要超过28岁还不结婚,就征收单身税评论 217 赞 12
2关于英语到底要不要退出主课,俩数学老师打起来了评论 177 赞 7
3拿省下的低保金去追星有问题吗?问题大了!评论 134 赞 44
4为什么不少教育从业者都在吐槽,感觉现在的孩子越来越 “笨”?评论 117 赞 5
5棉花絮为沙特献一计,保证沙特能立马转败为胜评论 103 赞 17
6130个流氓软件删了40分钟,关了5个广告还没拨出电话,老人用手机问题怎么办?评论 90 赞 13
7半卖半送的英语加中国护照,你要全球性的大民主,大自由时代来了评论 79 赞 3
9我的肺,不是你的烟灰缸评论 61 赞 8
10去宁德化,这是炒作还是真的?评论 49 赞 3最新闻 Hot-
冲着中印来的关税牌,特朗普打得出来吗?
-
名古屋噩梦:韩国队“求救”,泰国队睡地板,越南队步行去酒店…
-
前20大金主爸爸开始砸钱,仅1人支持民主党
-
战场老兵参选、四地首次参加…俄杜马选举引发舆论交锋
-
自称“学习者”,新任德国驻华大使到任,曾任驻印大使
-
联合国特派团:美国犯下“战争罪”,伊朗犯下“反人类罪”
-
32万页材料、193小时举证,杜特尔特案的难题才刚开始
-
直指中印!美国会通过,扬言“让买家付出代价”
-
从印度返回后,南非总统病倒了
-
白宫幕僚长威尔斯宣布“已摆脱癌症”
-
俄军少将安东·格鲁尼斯身亡,三周前刚获得“俄罗斯英雄”称号
-
不满英国政府在周边安置移民,英格兰一村庄投票“独立”
-
对美投资又生变数?韩外长忙解释:不是韩美分歧
-
日本政坛右倾加速!高市早苗内阁改组,维新会成员首次入阁
-
巴勒斯坦总统连续第二年遭美国拒签,无法出席联合国大会
-
3岁女童遭恶犬咬脸严重受伤,监管本有多少机会阻止伤害发生?
-










上海市互联网违法与不良信息举报中心