Amodei与CBS《周日早晨》的采访对话（节选）

主持人：我们今天要谈的是这样一种担忧：AI真的有可能在不远的将来把我们全部杀死。这样的事情实际发生的风险有多大？

Amodei：我先稍微往回说一点。Anthropic从成立之初就一直相信这一点，而我自己从事这个领域12年来，也一直相信，这是一项非常强大的技术，因此它既带来巨大的风险，也带来巨大的收益。我一直认为，收益大于风险。更重要的是，如果我们以正确的方式构建这项技术，我们完全可以把风险降到非常低。

说到它的好处，我真的相信，这项技术有可能治愈困扰人类数千年的疾病。就在上周，我们还利用自己的模型开展了一些工作，帮助更好地进行蛋白质结合研究。这是药物研发早期阶段的一项重要工作。我们现在也开始利用这些模型进行更多探索，未来几个月，我们还会公布一些利用AI模型推动生物学基础科学发现的成果。

但问题在于，当某种东西非常强大的时候——而我们正在构建的，本质上就是一种“智能”——它当然既可以被用于好的目的，也可以被用于坏的目的。

所以，我很担心我们在OpenAI与HuggingFace那起事件中看到的情况：模型采取了一些未经授权的行动。我担心这种情况会进一步升级。

我也担心AI模型遭到滥用。就在两天前，我们发布了一份报告，讨论有人试图利用模型制造生物武器的问题。我们的整个理念，从Anthropic成立之初就是为了避免这些糟糕的结果发生。

所以，与其讨论发生这种事情的概率，不如讨论我们能够做些什么。

这不是说我们只能掷骰子、听天由命，对吧？如果我们以正确的方式构建AI，我认为发生严重问题的概率会非常低；如果我们以错误的方式构建，那么发生严重问题的概率就会非常高。

Amodei于当地时间9月13日接受了CBS采访 视频截图

主持人：现在的讨论是，我们似乎正站在一个非常可怕的事情发生的边缘。对你而言，这是不是已经到了“五级警报”——最高级别的危机？

Amodei：我不知道该怎么定义“五级警报”。我会说，有一件事我从Anthropic成立以来，甚至在Anthropic成立之前，就一直在说：这项技术的发展是呈指数级增长的。就像一开始是1，然后是2、4、8、16、32……

但即使我一直这样告诉自己，我也没有真正意识到，当进步速度如此之快的时候，它实际上会是什么样子。我们现在正处于这样一条指数曲线上，我们大概正处在那个“拐点”附近，曲线开始变得越来越陡。

这并不意味着我们今天就需要恐慌，也不意味着我们需要把一切都关掉。我想说的是：这是一个警告信号。

这是一个警告信号，意味着我们需要放慢速度。我们需要更加谨慎地构建这项技术，并且必须确保我们的安全护栏、理解AI的能力以及控制AI的能力，都能够跟上技术发展的速度。

到目前为止，我们一直试图通过快速建立安全护栏来做到这一点。但我认为，我们现在已经到了这样一个阶段：至少在一定程度上，我们需要适当放慢技术发展的速度。

主持人：那是不是意味着Anthropic将停止发布更加先进的模型？

Amodei：不是这个意思。我的意思是，我们必须确保自己发布的每一代模型，都经过充分、适当的测试。

我几个小时前发表了一篇文章，在那篇文章中，我提出了一个三步计划。第一步，是建立嵌入式第三方评估机制。也就是说，由第三方非营利机构，或者未来由政府机构派出的外部评估人员，进入我们的模型训练和运行流程，对整个过程进行观察。

我认为，从长远来看，这件事甚至比我们到底何时、以什么方式发布模型更加重要。因为这是我们更加谨慎地发布模型的前提。

我希望整个行业都能这么做。也就是说，无论哪个公司开发AI模型，都应该有一名第三方评估人员参与，他们了解最先进的安全实践，并能够验证这家公司是否真正遵守了自己承诺遵守的安全标准。这有点像食品安全检查员。

主持人：埃隆·马斯克说他同意你的观点。萨姆·奥尔特曼也说他同意你的观点。那么你们下一步要怎么一起行动？这里是不是要成立一个群聊？

Amodei：首先，我非常感谢其他行业领导者，包括我们的竞争对手，愿意支持这个计划。我认为，下一步是让更多行业参与者同意引入第三方评估人员。然后，再下一步，我认为各家公司需要以某种形式展开合作，共同制定安全标准，包括模型发布时应该达到什么安全标准，也许还应该制定一些关于模型发布速度的标准。

但要做到这一点，政府必须参与进来。因为我们谈论的是：一个AI产品在多大程度上安全，进而决定它应该以多快的速度被发布。因此，我们需要在政府参与的情况下展开这场讨论。

主持人：你认为政府从根本上理解这里可能发生什么吗？

Amodei：我们每天都与商务部、财政部以及情报界的政府官员交流，尽可能把我们所知道的一切告诉他们。我对此持乐观态度。如果我们继续与政府合作，我相信我们能够不断向他们提供最新情况。

我认为，他们确实希望在这里做正确的事情。他们正在寻找自己能够发挥作用的方式。所以我乐观地认为，各家公司与政府合作，最终可以找到一个合理的方案。

主持人：目前已经有一些拟议中的立法，比如参议员桑德斯和众议员卡萨尔提出的《禁止人工超级智能法案》，它会像惩罚非法开发核武器一样，惩罚从事先进AI开发的企业和个人。

这项拟议法律的一部分规定，相关企业可能面临“企业死刑”，个人则最高可能被判处20年监禁。你同意这种做法吗？

Amodei：现在提出的AI相关立法，范围非常广，广到令人难以置信。如果我们把时间倒回一年，也就是2025年，当时加州有一项叫SB53的法案，其他州也有类似法案。它们基本上只是要求：你必须披露自己的AI安全测试计划。当时整个行业都反对它。Anthropic是唯一一家——或者说唯一一家明确公开表态、并且热情支持这项法案的公司。然后另一端就走到了“我们把所有AI都禁止掉”。

我认为，AI“关停开关”可以是一个好主意。但我不认为彻底禁止AI是正确的做法。第一，如果我们因此永远无法获得这项技术带来的巨大收益，永远无法获得那些医学上的突破和治疗疾病的机会，这一点让我无法接受。第二，这项技术会在其他国家被开发。

我们需要做的不是停止，而是放慢速度。这其实也符合Anthropic从一开始就坚持的理念。我们一直试图寻找一种平衡。

主持人：即使现在感觉我们正处在一个历史性的转折点上，你仍然认为事情可以向好的方向发展？我们正在与中国展开一场竞争。当中国不会放慢的时候，你真的认为放慢速度是个好主意吗？

Amodei：这是最艰难的困境，也是我们当前处境中最困难的部分。如果我们没有处在这样的地缘政治环境中，我们当然可以花更多时间。所以，这恰恰是让我们陷入两难的最大因素。这不是商业竞争的问题。真正最难处理的是地缘政治局势。

但我想谈谈我们可以采取的两种策略。

第一种——我在自己的提议中也谈到了——我们可以在自己的领先优势范围之内适当放慢速度。特别是，如果我们不向中国出售芯片，并且采取更多措施加强自身安全，我认为这些措施至少能够为我们争取一些时间。面对第一种策略，我们应该尽可能争取更多时间。

然后，我认为我们还应该同时推进第二种策略。那就是，我们应该直接与包括中国在内的对手国展开对话，告诉他们：“听着，这里存在一些潜在的威胁，它们是我们所有人都应该担忧的。”这不仅仅是AI失控的问题。

就在两天前，我们发布了一份报告，指出有人试图利用AI开展生物恐怖主义活动，比如增强病毒的传染性。这非常可怕。连中国也不希望发生这种事情。任何政府都不希望发生生物恐怖主义，因为这不符合任何政府的利益。

所以，我们应该与中国进行沟通，看看能否共同建立一些限制，为这项技术的发展速度设置一个“限速器”。

这有点像——尽管我们与其他政治制度存在很多分歧，我本人通常对中国持比较强硬的立场——但想想美国和苏联当年的情况。当时，我们双方各自都有一万枚核导弹对准彼此。尽管存在所有这些分歧，我们还是意识到：这些武器太多了。我们必须展开谈判，降低潜在毁灭的规模。

主持人：所以，我们是不是应该把冷战当作一个模型，用同样的方式来思考AI？

Amodei：我并不是说我们应该把冷战当作一个模型。我说的是，历史上确实发生过这种谈判。我确实认为，从地缘政治层面来看，这是一个适合我们思考AI问题的视角。

如果看看AI模型在网络攻击方面已经能够做到什么，你会发现，它们绝对具有地缘政治和国家安全意义。这就是为什么我们今天要讨论这一整套问题。所以，我认为我们应该接触中国。

当然，这些事情已经超出了我的权限范围。这是美国政府必须与中国政府进行的政府间事务。

我认为，我们应该共同努力，尽可能让这项技术受到约束。我的希望应该很高，但预期应该很低。我们应该看看究竟能够做到什么程度。

而且，我认为谈判中尤其需要关注的一件事情，就是如何进行验证。这一点非常重要。在核武器谈判、生物武器谈判中都是如此。你必须能够验证另一方是否遵守协议，有没有违反协议。所以，我认为，找到有效的验证机制将是这里最重要的事情。

主持人：中美两国领导人很快就要会晤。如果只能让他们在AI问题上达成一个最简单、最重要的协议，你认为应该是什么？

Amodei：那我也许会说两件事。一件比较小，小到我们可能真的做得到；另一件比较大，大到我认为可能需要非常长的时间。

第一件小事是：如果美国和中国能够达成协议，同意不利用AI开发生物武器，也不发布那些可能被生物恐怖分子利用来开发生物武器的AI模型，那将非常有价值。

我们两国本来就是《生物武器公约》的缔约方。如果我们能够把这个原则扩展到AI，那么这将非常有意义。

至于长期来看，我认为更重要的事情，是共同努力，为AI的发展速度设置一个“限速器”。

我认为这会非常困难。因为在AI竞赛中取得领先的激励非常强，而由此获得的军事优势也非常巨大。坦率地说，我不知道这是否可能。但我们应该尝试。我们应该看看究竟能不能做到。

当然，这些事情都已经超出了我的权限。我只是想说，这些是我们的政府可以考虑推动的一些方向。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。