圆桌讨论

何婕：此刻谈世界人工智能治理的重要性，中国在这一领域毫无疑问已经是领先了。每年7月举行的世界人工智能大会，都在上海，今年已经进行到第九届。其实很早以前，我们就把治理这个概念放在大会主旨中，所以很早就提出了人工智能要向善、科技要向善，这都是中国首提的。尽管我们每个人都身在其中，还是要说一下古特雷斯秘书长说“速度”“力量”，这个领域现在的发展速度到底有多快，发展到什么程度了？

汪涛：的确是空前的，因为我是在IT领域四十多年，它的发展速度是越来越快，而且因为是在原来的基础上，很多基础设施都已经累积完了，今天只是最后再加一把火，所以一烧起来就会特别旺，越到后面发展得越来越快。

人工智能本身应该不能说是一个新技术，已经有六七十年的发展过程了。但最近的这一次突破，就是大模型突破，确实出现以后真的是爆炸性的，这在人类历史上都是空前的速度。

任何一个技术都存在两面性，就像核技术，它可以做原子弹，也可以作为核电。怎么样能刻意地去开发它服务于人类社会，约束和限制它的不利方面，这对所有技术都是这样。

何婕：我在想中国特别宝觉的一点在于，当人工智能爆发式的增长，在前些年方兴未艾的时候，我们很早提出了这个概念：人工智能的使用伦理问题。

张维为：全球人工智能大会在九年前举办的时候，它是一个行业会议，大概上百家企业参加。现在变成总书记亲自参加并作主旨演讲，提出了一系列“时代之问”，它变成了全球性的峰会，这个演进速度本身也说明它发展得多么快，同样也说明我们具有前瞻性。

何婕：从最早我们还只是讨论元宇宙，再慢慢有文生视频，后来到大模型，再到具身智能，然后现在各种各样的应用越来越普惠，每个人都能从人工智能应用中受益，发生了巨大变化。

所以您刚刚说中国非常敏锐，而且因为很早在上海举办这样的盛会，某种程度上为中国和世界人工智能的应用生态起了很好的平台和桥梁作用。我想，世界人工智能合作组织总部之所以会放在上海，跟这个也有关系。

但我想问一个问题，您刚说人工智能的发展速度太快了，有太多新的词，人们都还来不及学习，它就已经来到我们身边，它带来的变化跟我们现实生活中的治理相比，还存在巨大鸿沟吗？

汪涛：在硅谷，其实十多年前就已经开始在做通用人工智能，甚至在Transformer这个大模型没出现之前，硅谷就已经开始在想研究通用人工智能。这一次出现大模型，其本质变化之一，是提供人工智能的一个通用接口，可以让我们所有人都很方便地来使用它。

这样一来，就导致能力突然释放，释放出巨大的能量。到底会用它来做什么？确实让人工智能领域的人都有点诧异，这一次怎么会有这么大的影响力。你要用它来做好事，它就是一件服务于社会和人类的技术；但是，如果你要用它来干别的，比如窃取账号等，各种各样的非法事情都可能出现。所以，我们需要提前应对，否则能量释放得越大，可能带来的问题就越多。

何婕：就像您说的，所有事情都有两面性。一方面，人工智能的发展普惠了，每个人都能从中受益；但反过来说，因为有太多太多的使用者，跟原来只是在专业机构的使用者手中完全不是一个概念，这时候就可能面对海量的治理挑战。

张维为：因为这次我非常荣幸地先后参加了联合国首次“人工智能全球治理对话”和“人工智能向善全球峰会”，再参加上海举行的这次大会，11天之内，三个全球性的会议都召开了。可以看到我们中国的立场逐步展开。

我观察到一个细节，在日内瓦开会时，7月7日、7月8日人工智能向善全球峰会；在峰会上，工信部和中国驻联合国使团共同召开了一个分论坛，标题是“人工智能向善普惠 For Good and For All”，除了向善，还有普惠。几天后习主席演讲的时候，他加了个“向上”，从最初的向善，中国又提出“普惠”，又提出“向上”。

何婕：也就是说我们对世界人工智能领域发展的治理核心要素，不光是向善，还有普惠，还要“向上”，因为它还有发展趋势。这三个维度应该说就是我们对治理的整体的理解。

张维为：你现在看民调，在中国，82%左右的人认为人工智能利大于弊，在美国只有百分之三十几认为利大于弊，多数人认为弊大于利，恐怕世界上一半以上国家都是这个情况。

这就形成两种不同的态度，重要原因是，中国人工智能应用发展非常快，多数人是受益的。人工智能向善、以“人民为中心”、“以人为本”，这些理念一直坚持到今天，所以多数人是受益的。但美国现在不一样，硅谷“七姐妹”是垄断超额利润，你看他们互相竞争，给人感觉是谁裁的人越多就越有本事，公司就做得越好。在中国这就违背伦理了。

今年3月，OpenAI与美国战争部达成协议，允许战争部在机密网络中使用旗下技术模型。美国民众在华盛顿国家广场放置纸板AI杀人机器狗，以示抗议。法新社

何婕：有的国家对人工智能还抱有一种犹疑或拿不准的态度，某种程度是不是它们意识到人工智能向善的治理有难度？因为有难度，所以不敢轻易放开。反过来，中国如此拥抱人工智能，是不是我们对自己的治理很有信心？

汪涛：确实很多因素赶在一起了。这一次我觉得很诧异，因为我们过去整个信息技术产业发展这么多年，每当遇到新的技术浪潮，美国和欧洲很自然地就走到引领者位置上，所有这些工作都是它们做的。一般我们都是跟随，向国际惯例靠拢，采纳国际标准，都是接轨。这次怎么会这么长时间，它们只是在那里喊，根本就没这个意识。

何婕：治理它是件很难的事，不知道该从哪入手。

汪涛：应该也不是这样，因为所有技术该怎么治理，其实是有一套惯例的方法的。就是那些东西，可能要制定标准，成立一个相应的国际治理组织。以前美国做这些事，它几乎成为一种本能了，我们这次就觉得很奇怪，为什么它们不干这些活，这些活就是交给中国了？

张维为：我补充一点，机会总是会留给做好准备的人或者国家。这次由于种种原因，中国确实做好了准备，跟其他国家相比，我们的准备更充分。

一个重要原因，我这次在联合国也讲这个，我过去在这里也讲过，中国共产党的哲学包括代表最先进的生产力。如果人工智能是不可阻挡的先进生产力，我们就要代表它、要引领它，而不是害怕它。不可阻挡的事情，我们就坦然地接受它，然后在发展的过程中出现什么问题、解决什么问题，这是中国人的哲学。

我们没有回避人工智能，而是直接开始发展人工智能。因为我们的发展走在前面，应用走在最前面，遇到的问题也最多，就开始治理了，逐步逐步就形成自己的一整套做法。

特别“全球南方”的国家，真的把希望放在中国，他们公开说，现在人工智能就是两个超级大国，中国和美国，他们的希望放在中国身上。我们承载着的真是“全球南方”和整个世界的希望。

何婕：现在第一个世界人工智能合作组织成立了，而且总部就在上海，所以像这样一个合作组织、一个政府间机构，能为世界人工智能的治理贡献些什么，咱们能摸索出一套什么样的制度来？

汪涛：因为刚开始做这件事，可能大家觉得有多难或者有多陌生，其实不是。以前遇到这种事，确实是有竞争的，比如很多技术标准，甚至美国一套标准、北美一套标准，然后欧洲一套标准，甚至日本有时候也自己想搞一套标准。这些标准不断地竞争，最后融合成一个标准。但这一次几乎没有什么可争的，中国可以独立把所有的活全揽下来。

何婕：人工智能，中国到底发展到一个什么样的水平？我认为它跟美国不一样的地方在于，它是全生态蓬勃发展：从基础研究，再到算力准备，再到大模型，再到电力——大家都说，算力的尽头是电力、是能源供应，我们无所不在。还包括应用，我们的应用不光是应用场景丰富，主体也很丰富，那么多人都在用，词元的调用量全世界第一是中国，很多普通老百姓都在玩AI小程序的设计。

汪涛：我们国家其实很早就意识到，人工智能将逐渐引领下一代人类的工业文明，只是说我们确实没想到大模型出现以后，影响力这居然么大，这是出乎意料的。但人工智能作为一个技术会影响下一代，这是我们早就注意到了。

我们之前在应用上就已经是全球最领先的了，所以在这一轮人工智能的大潮中，可以说从两边往中间合围，就是最底层的电力，其实也早就在能源领域已经做了大量工作。在应用领域，我们几乎已经是各种各样的生产自动化。

何婕：五个领域，就是人工智能生态的五根支柱。

汪涛：可能很快我们在芯片领域突破以后，所有这五个领域都全部领先。比如现在最短板的是EUV光刻机，很多人说这个领域中国很难，这是需要多少个国家产业的合作才能做出来。我说，你们要搞清楚，珠三角和长三角不同城市之间的合作，比其他几十个国家之间的协作力度要大得多。