-
世界科先声:黄仁勋为什么对“AI末日论”如此鄙夷
所以他才会反复提到第三方审计。在他看来,AI安全评估其实完全可以借鉴财务审计。审计师并不需要比企业CFO更懂业务。他们的作用,是站在企业外面,提出正确的问题,检查流程和账目,并且与被审计对象保持独立。
黄仁勋还强调,应该有多个独立评估机构,而不是只有一家,以降低被收买或者受到影响的风险。这背后其实隐含着另一个问题:为什么AI公司既是技术的开发者,又要成为自己风险的主要裁判者?
过去几年,很多前沿实验室都有一种并未明说的逻辑:因为我们最懂AI,所以AI安全也应该主要由我们来定义。但财务审计制度从来不是这么设计的。一家公司当然最懂自己的账,但这恰恰不意味着它可以自己给自己出审计报告。
黄仁勋把AI安全和财务审计放在一起,指向很明确:财务审计天然要看的是利益,是账,是谁从这个安排里得到了什么。
他没有点名,但时间线摆在那里。Anthropic今年早些时候估值9650亿美元,6月已经秘密递交了IPO招股书,市场预期最快下个月挂牌。呼吁全行业减速的这篇文章,和IPO路演,发生在同一个月。

Anthropic的CEO 达里奥·阿莫代伊
白宫AI政策顾问大卫·萨克斯的用词直接得多。他把这套主张称为监管俘获,认为大型AI企业可能利用社会对风险的担忧,推动只有大公司才能轻易满足的监管要求。
当然,反过来也不能把Dario Amodei的立场简单解释成商业算计。他并不是最近才开始担忧AI风险。今年二月他接受罗斯·杜塔特采访时就说过,他支持放慢速度,支持国际协调减速。那时Anthropic的收入增速是现代商业史上最快的。
但黄仁勋的意思也不是你有私心。他的意思更朴素,你说的风险要不要查,查的时候顺便把账一起查了。这两件事本来就不冲突。
末日论是从哪里长出来的
现在要问那个更深的问题:为什么是美国,为什么是这几年,为什么AI风险讨论会长成灭绝概率这个形状?
如果这项技术危险到只有极少数机构能负责任地开发,那么危险本身就是准入门槛,它天然把资源和合法性集中到已经在场的那几家手里。这是最古老的行业保护逻辑,只是换了一套词汇。
一个数字可以说明为什么这件事有现实赌注。过去六个月流入AI原生公司的风险投资有4000亿美元,其中80%用的是开源模型。开源如果不危险,护城河就不存在。
第二层是组织层面。这一层黄仁勋给的解释相当厚道。他说这些实验室正在从研究机构转型为工程组织,人才非凡,但工程毕竟不同于研究,转型难免磕绊。
研究机构的产出是论文和想法,工程组织的产出是要交付、要回滚、要有服务等级承诺的东西。两种文化处理未经验证的判断,方式完全相反。研究者习惯把猜想公开发表让同行证伪,这在科学共同体里是正确做法。工程师习惯把没验证的东西留在内部,直到它能过测试。同一个担忧,研究者写成一篇博客,工程师写成一张bug单。
黄仁勋在台上说,我认为这些公司应该按照我们过去建立公司的方式来运营,悄悄地做。这句话不是要求别人闭嘴,是两种职业伦理的直接碰撞。
第三层最深,也是这篇文章真正想说的。
来自中国的伊甸园和燧人氏
灭绝概率这个概念,不是从计算机科学里长出来的。它的来源是牛津那一支有效利他主义和长期主义的思想训练。
托比·奥德在《悬崖》里给本世纪的人类生存风险估了一个1/6。这套东西结构很清楚,把人类的整个未来当成一个可计算期望值的对象,然后论证一个极小的概率乘以近乎无限大的损失,等于一个无限大的当下义务。
数学上自洽。但它有一个从不被检验的前提。这个前提是,存在一个终点。
人类灭绝要能被当成一个可以赋概率的事件,前提是历史有一个可以抵达的结尾。而历史有结尾这件事,不是科学发现,是一个文化预设。
它来自《启示录》,来自千禧年主义,来自最后的审判。历史有开头,有方向,有终局,终局是一场清算。这个结构在西方思想里运行了两千年,它不需要论证,因为它是背景。
技术这一支还有更具体的一条线。
伊甸园中间那棵树叫知识树,吃它的果子是人类第一桩罪。普罗米修斯把火从天上偷给人,被锁在高加索山上,每天有鹰来啄他的肝。犹太传说里的魔像,人用泥造出来的仆人,最后要毁掉造它的人。玛丽·雪莱1818年给《弗兰肯斯坦》起的副标题,就叫现代的普罗米修斯。
这条线是连贯的。知识来自僭越,僭越必受惩罚,技术是偷来的火,火迟早要烧到自己身上。
所以2023年埃利泽·尤德科夫斯基在《时代》周刊撰文,主张必要时应该空袭数据中心,那不是一份政策建议。那是一种旧语法的当代版本,圣殿必须推倒,因为里面供的是偶像。
现在换一个坐标系。
中文世界的技术起源神话,方向完全是另一个。
燧人氏钻木取火,没有受到任何惩罚,他被立为王。有巢氏教人构木为巢,神农尝百草,都是立功不是犯罪。
最有意思的是洪水。大洪水是世界性母题。希伯来的解法是诺亚造方舟,神要毁灭这个世界,人能做的只是带走一点种子躲开它。中国的解法是大禹治水,把水治了。鲧被处死,不是因为他冒犯了天,是因为他用堵的,方法不对;禹用疏导,做成了,然后当了天子——这是一个纯粹的工程问题,不是道德问题。
1637年宋应星写完那本讲农业和手工业技术的书,取名《天工开物》——天的工,由人来开,整套世界观压在这四个字里。
所以中文语境里,没有技术原罪这个位置可以放。技术是器,器以载道,善恶在用它的人,不在技术本身带没带诅咒。一个从来不担心自己在犯罪的文明,也不太容易产生我们造的东西会审判我们这种恐惧。
30天,和10%
不过,如果把黄仁勋的态度直接归因于华人文化,也过于简单。
他九岁去了美国,后来被送到肯塔基州一所浸信会寄宿学校。在那里,他每天要打扫厕所。同宿舍的是一名17岁、还不识字的学生。黄仁勋教对方认字,对方教他举重。
也就是说,他并不是一个站在西方文化之外的人。相反,他几乎整个成年生活都在美国完成。但他的家庭背景,确实可能塑造了他处理问题的方式。

今年5月,黄仁勋在台湾陪同其父母外出吃饭。
黄仁勋曾经讲过一个很有意思的故事:他母亲当年并不会英语,但每天都会从字典里挑出十个单词,让他拼写,再解释意思;她其实也不知道孩子答得对不对。这是一种很朴素的学习方法:先做,先练,在反复练习里把东西学会。
他的父亲黄兴泰则是一名化工工程师。工程师家庭通常有一种很直接的价值判断:一件事情最后得做出来。说得再漂亮,如果落不了地,就不算完成。
这两种东西放到一起,就很容易理解黄仁勋后来形成的那种思维。他习惯问的不是“这个东西是不是太危险,所以我们不应该做?”而是“既然它会被做出来,那怎样才能把它做对?”
这也是为什么,他那句说了几十年的“公司离倒闭只有三十天”,其实很能代表他的世界观。
30天,和十年内10%的灭绝概率,两个都是危机感。但前者要求你继续行动,后者更容易要求你先停止。这就是“忧患意识”和“末日意识”之间的差别。忧患意识并不相信有一个确定的终局。它只是认为问题永远存在,所以人必须一直解决问题。
黄仁勋那天还有一句话,没有前面那些“骗局”“机器人不会统治世界”那么容易传播,但可能更接近他的真实想法。
他说,“把它建好,是我们的责任。”也就是说,如果这些末日论所描述的风险真的存在,那人们更应该把时间花在解决它上面,而不是让大量对此无能为力的人生活在恐惧中。
说到底,这场争论其实是两个问题:
一个问题是:我们有没有权力继续制造越来越强的AI?
另一个问题是:既然AI正在继续发展,我们怎样才能把它做得更安全、更可靠?
第一个问题在西方思想里有两千年历史,而且从来没有过答案。
而黄仁勋显然更习惯处理后一个:找出问题,找到责任人,建立审计,解决风险,然后继续往前走。
标签-
本文仅代表作者个人观点。
- 责任编辑: 章步庭
-
1国家应当开征单身税来奖励生育,不管男女,只要超过28岁还不结婚,就征收单身税评论 217 赞 12
2关于英语到底要不要退出主课,俩数学老师打起来了评论 177 赞 7
3拿省下的低保金去追星有问题吗?问题大了!评论 134 赞 44
4为什么不少教育从业者都在吐槽,感觉现在的孩子越来越 “笨”?评论 117 赞 5
5棉花絮为沙特献一计,保证沙特能立马转败为胜评论 103 赞 17
6130个流氓软件删了40分钟,关了5个广告还没拨出电话,老人用手机问题怎么办?评论 90 赞 13
7半卖半送的英语加中国护照,你要全球性的大民主,大自由时代来了评论 79 赞 3
9我的肺,不是你的烟灰缸评论 61 赞 8
10去宁德化,这是炒作还是真的?评论 49 赞 3最新闻 Hot-
冲着中印来的关税牌,特朗普打得出来吗?
-
名古屋噩梦:韩国队“求救”,泰国队睡地板,越南队步行去酒店…
-
前20大金主爸爸开始砸钱,仅1人支持民主党
-
战场老兵参选、四地首次参加…俄杜马选举引发舆论交锋
-
自称“学习者”,新任德国驻华大使到任,曾任驻印大使
-
联合国特派团:美国犯下“战争罪”,伊朗犯下“反人类罪”
-
32万页材料、193小时举证,杜特尔特案的难题才刚开始
-
直指中印!美国会通过,扬言“让买家付出代价”
-
从印度返回后,南非总统病倒了
-
白宫幕僚长威尔斯宣布“已摆脱癌症”
-
俄军少将安东·格鲁尼斯身亡,三周前刚获得“俄罗斯英雄”称号
-
不满英国政府在周边安置移民,英格兰一村庄投票“独立”
-
对美投资又生变数?韩外长忙解释:不是韩美分歧
-
日本政坛右倾加速!高市早苗内阁改组,维新会成员首次入阁
-
巴勒斯坦总统连续第二年遭美国拒签,无法出席联合国大会
-
3岁女童遭恶犬咬脸严重受伤,监管本有多少机会阻止伤害发生?
-










上海市互联网违法与不良信息举报中心