附录：黄仁勋在All-in峰会上的部分问答（“世界科先声”整理）

问：你怎么看Dario Amodei关于AI风险和“放慢前沿AI”的主张？

黄仁勋：安全当然至关重要。但“安全”和“领导地位”不是二选一，这是一种错误选择。美国完全可以快速创新、快速执行，同时保持领先，并且安全地推进。

真正需要认真对待的，是实验室内部的控制问题。如果有人吹哨，比如Jacob Coxon，那就应该严肃对待。但“吹哨”是一回事，对未来作出所谓“科学预测”又是另一回事。一个科学家说出一句话，不代表那句话本身就建立在科学之上。

问：那像“10%的人类灭绝概率”这样的说法，你怎么看？

黄仁勋：我们根本不应该去解释，因为很多这样的数字就是编出来的。问题在于，这些话来自“研究人员”、来自“实验室”，于是天然带上了一种权威感。然后再配上“文明灭绝”“灾难”“末日”这些词，就会让公众非常不安。我认为这是不负责任的。

更重要的是，我们应该回头看这些预测的历史记录。有人说五年后放射科医生会消失，结果今天反而更需要放射科医生；有人说6到12个月内90%的代码会由AI生成；还有人说一半入门级岗位很快会消失。很多这样的预测后来都错了。这些预测应该被记下来，预测者也应该被问责。

会议现场 视频截图

问：那你认为今天前沿AI实验室真正的问题是什么？

黄仁勋：很多实验室正在从研究（research）转向工程（engineering）。但是研究和工程不是一回事。研究允许探索，工程要求可控、可重复、可验证。今天很多实验室一边建公司、一边建文化、一边建技术、一边建工程体系、一边做产品，所以整个过程当然会很混乱，甚至有点火烧眉毛（“hair-on-fire”）。

但如果真的发生事故，第一件事应该是做根本原因分析：到底发生了什么？我们本来可以怎么做？接下来该实施什么技术、什么方法、什么流程，才能保证同样的问题不再发生？

问：所以你不认为这些事故意味着AI已经“失控”？

黄仁勋：我不这么看。我相信绝大多数已经发生的问题，未来都属于这些实验室可以控制和避免的范围。如果他们最后分析完告诉社会：“我们不知道发生了什么，也不知道怎么控制”，那才是另一回事。那时候，整个社会、其他公司的工程师确实应该进去帮忙。但我不认为现实是这样。他们有非常优秀的人，也有能力把问题修好。

问：那AI监管应该怎么做？

黄仁勋：监管应该解决真实存在的问题，而不是针对想象中的问题。

现在真正有能力制造前沿风险的，主要是拥有巨大算力的前言实验室。一个高中生不太可能做到，一般的初创公司也没有那么多算力。所以监管首先应该盯住真正有能力制造风险的地方。

问：你支持第三方评估和审计吗？

黄仁勋：支持。这跟金融体系的审计没有本质区别。审计师不需要比公司更懂业务，他们只需要问对问题。

而且第三方评估机构最好不只一家。应该有多个评估员、多个审计，这样可以避免某一家机构因为意识形态或者其他原因受到影响。

问：你怎么看最近很多人讨论的递归自我改进（RSI），也就是递归自我改进？

黄仁勋：RSI现在被说成了一个很“性感”的新词，但实际上它是一整套方法的组合。它可以包括上下文学习（in-context learning）、技能（skills）、反思（reflection）、强化学习（reinforcement learning）、生成合成数据（synthetic data generation），也可以包括LoRA（Low-Rank Adaptation，低秩适配）。本质上，就是让AI随着时间推移越来越擅长解决一个问题。

利用AI来提高生产率，当然也包括“利用AI来帮助构建下一代AI”。这其实是很自然、很符合逻辑的事情。

问：你不担心RSI最后螺旋式失控吗？

黄仁勋：不。你可以在公司内部做很多RSI，但当你真正发布产品时，还是要评估、测试、检查。这就是工程控制。

随着实验室从研究组织变成工程组织，它们会有更好的方法、知识、工具、技术和实践，所以控制能力只会越来越强。

问：开放模型和闭源模型，你更支持哪一种？

黄仁勋：两种都需要。我把闭源模型比作瓶装水。水本身可以是免费的，但你在不同场景还是会用不同的水。模型也是一样。

闭源模型在很多场景下非常方便，也非常前沿；开放模型则对主权（sovereignty）、隐私（privacy）、专有技术（proprietarytechnology）很重要。这个世界需要两种。

问：为什么开放模型这么重要？

黄仁勋：因为很多创业公司根本离不开它。过去六个月，大量资金进入AI原生公司（AI-nativecompanies），其中很多公司使用开放模型。如果没有开放模型，这些公司怎么去实现他们的梦想？如果美国真的要赢AI竞赛，不能只是几家科技公司赢，而必须让每家公司、每个行业、每个研究人员、每个老师、每个学生、每家初创公司都能参与。

问：如果开放模型主要来自中国，这会不会成为问题？

黄仁勋：一旦你下载下来、fork它、改进它，它就是你的工具。

今天全世界开源生态里，很大一部分贡献确实来自中国，因为他们有更多工程师，也有更多大规模培养出来的科学和数学人才。但我们也下载Linux、Kubernetes和各种软件，其中很多代码也有中国开发者参与。所以真正的问题不是“谁先做出了模型”，而是“谁能把它利用得最好”。

问：那你认为真正的AI竞赛是什么？

黄仁勋：真正的竞赛，是谁最善于利用技术。

上一轮工业革命里，Maxwell、Volta、Ampère都不是美国人。很多基础科学来自欧洲。但美国后来把这些技术利用得非常好。我希望AI时代也一样。

问：你为什么觉得中国对AI的叙事更有竞争力？

黄仁勋：因为他们的叙事更加务实。他们更多把AI看成一种能够推动经济和社会发展的技术，而不是不断谈“这个要结束了、那个要结束了”、灾难、末日、doomer。

如果风险是真的，我们就应该解决它。如果风险没有科学依据，却只是不断吓唬那些根本无力解决问题的人，那没有意义。

问：AI会不会让程序员失业？

黄仁勋：很多人把工程和“打字”混为一谈了。

我刚做工程师的时候，根本不像今天的软件工程师一样整天敲键盘。后来软件普及以后，工程师拿到一台笔记本电脑、一把椅子，然后开始“打字”。但工程在“打字”之前就存在。以后即使coding大量自动化，工程还是会存在。

我一直跟NVIDIA的软件工程师开玩笑说：“你们就是在打字。”我最喜欢的键是退格键。因为最好的软件，往往也是最精简的软件。

问：你怎么看AI基础设施建设？

黄仁勋：AI是一场新的工业革命。这不只是模型，也不只是芯片。它还包括数据中心、施工、电能、发电、土地、电力、建筑本体……为什么？因为智能要被“生产”出来，而生产智能需要基础设施。所以我们看的是整个生态系统，哪里有瓶颈，就要解决哪里。

问：你认为我们已经进入AGI时代了吗？

黄仁勋：我认为，在某种意义上已经到了。如果AGI的标准只是达到普通人的智能水平，那么很多系统已经非常接近，甚至达到。

问：那超级智能呢？还很远吗？

黄仁勋：我觉得某些领域其实已经有了。如果只看一个窄领域，比如自动驾驶，只要系统在驾驶这件事上比人类更好，那它在这个领域就是超级智能。蛋白质设计、虚拟筛选也是一样。所以，不一定要等到出现一个全知全能的AI，才叫“超级智能”。

问：那你对AI的未来到底是什么态度？

黄仁勋：未来非常好，我们应该去那里。

这些前沿实验室正在做真的、真的非常重要的工作，我希望他们成功。但我也希望，我们把现在围绕AI的闹剧（drama）降下来一点。最重要的是，要让整个社会一起参与，而不是让少数人先走。

不要因为未经验证的恐惧而停下来。把风险工程化，把问题具体化，然后继续前进。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。