11. 尽管人工智能诊断的准确率已超过90%，但关于误诊责任的国际共识仍尚未形成。中国提议的“医疗人工智能伦理审查委员会”能否成为全球范本？

尤瓦尔·赫拉利：我不熟悉这个具体的例子，所以无法对此发表评论。而且我也不是医生或医学专家。我想说的是，总体而言，在人工智能时代，就如何处理这项新技术达成共识非常重要。我们正在创造一种可能很快就比我们更聪明的东西。自然界中还没有任何例子表明，智慧较低的物种会控制智慧较高的物种。通常，智慧较高的物种会剥削或毁灭智慧较低的物种，就像我们对其他动物做的那样。因此，创造一个超级人工智能对我们来说是非常危险的。而我们创造良性人工智能的唯一途径，就是寄希望于全球共识与合作。

我们可以把创造人工智能想象成教育孩子，当你教育孩子时，他们可能不会按照你说的去做，但会模仿你的行为。如果你告诉孩子们不要撒谎，但孩子们看到你对别人撒谎，他们也会效而仿之。而我们正在创造的超级人工智能，它们就像是人类的孩子。我们可以告诉人工智能不要撒谎，不要操纵，不要一味追求权力，应该有同情心。但人工智能就会观察人类社会和人们的行为，如果人工智能观察到我们只是在竞争，它也会这样做。因此，我们现在尤其需要在人与人之间建立更多的共识与合作。

12. 多项美国研究揭示了人工智能招聘系统中的性别偏见。中国强制性的“消除算法偏见”规定能否抵消《人类简史》中所说的“数据殖民主义”（data colonialism）？

尤瓦尔·赫拉利：希望如此。同样，我也不熟悉这个具体的系统，所以我无法对此发表评论，但总的来说，我们需要这样的举措。同样，在没有任何规定和协议的情况下开发人工智能是非常危险的。我们不能盲目相信人工智能不会出错、不会有偏见。要知道，最初人们认为，人工智能只是在做计算。我们认为人类有偏见是因为我们的心理，因为我们受到各种宗教神话的影响。我们可能会想人工智能没有宗教信仰、没有心理，它们只是计算，不会有偏见，但这已经是十年前的过时想法了。

现在我们知道，人工智能也会像人类一样有偏见，其中一个主要原因就是训练它们的数据。如果你在一个充满偏见的数据集上训练人工智能，那么人工智能就会有偏见。比如在招聘问题上，如果你训练人工智能如何招聘工作，你就不能编造数据，而是需要从现实世界中获取数据。如果在现实世界中存在偏见，比方说对女性的偏见，两个具有相同资质的候选人，人们更愿意雇用男性而不是女性，而这就是你训练人工智能的数据，那么人工智能也会以同样的方式对女性产生偏见。

于是人们会说，好吧，那我们就去找不带偏见的数据。但如何、何时才能找到无偏见的数据呢？数据来自世界，而世界充满偏见。所以这是一个大问题。如何建立一个无偏见的人工智能系统？这绝非易事。事实上，在人工智能系统中消除偏见会非常困难。同样，由于数据的存在，你不能只是告诉人工智能，在招聘人员时不要有偏见。这没有任何意义。你必须训练人工智能，而训练人工智能，你就需要用数据来训练它。

要知道，当AlphaGo学习如何下围棋时，它并不需要来自现实世界的数据，它只需与自己下围棋。因此，AlphaGo模拟了数百万次围棋对弈，这就是它的学习方式，不需要来自世界的数据。但是在就业市场上，你不能这样做。你不能在人工智能对招聘本身并不负责的情况下，简单对它说“模拟招聘百万人的流程”。它能怎么模拟招聘呢？它只能通过真实世界的数据来实现。而真实世界的数据充满了偏见，因为这个世界充满了偏见。

2016年3月15日，在韩国首尔进行的围棋人机大战中，李世石不敌AlphaGo。 新华网

我并不是说这是一个不可能解决的问题。我们可以改进，可以有办法消除偏见，但这并不容易。目前，有一些公司正是在做数据“清洗”的工作，但要创建一个没有偏见的数据集非常复杂。你会尝试去掉数据中的一些东西，但也许你会去掉一些重要的数据。怎样才能既消除偏差，又不丢掉一些重要数据呢？这很难。

13. 训练大模型所产生的二氧化碳排放量相当于5辆汽车的全生命周期排放量。技术发展如何在性能与碳中和之间取得平衡？

尤瓦尔·赫拉利：从短期来看，这是一个非常大的问题，因为人工智能现在是全球资源和能源的最大消耗者之一。训练新的人工智能、人工智能模型需要大量的能源、水和稀缺矿产。随着国家之间、公司之间的竞争加速，他们根本不在乎环境成本，只会投入越来越多的资源来赢得人工智能竞赛。他们说，从长远来看，这甚至会保护环境，因为当我们拥有超级智能的人工智能时，它们会发明一些保护环境的东西。它们会发明新型发动机，或以更明智的方式管理电力系统，这将防止灾难性的气候变化。但从短期来看，人工智能竞赛只会让生态问题变得更糟。

解决的办法还是要合作，不要陷入各国都对尽快发展人工智能深感必要的竞赛之中。但不幸的是，由于人类之间的信任正在崩溃，所以我们有点陷入了这种竞赛心态，在这种心态下，各国并不太在乎生态成本，他们只想在竞赛中取得领先。

14. 过度依赖导航应用会削弱空间认知能力，这与《未来简史》中所提出的“认知外包”（outsourced cognition）警告相呼应。学校中的“人工智能素养教育”能否让我们保留人类基本的能力？

尤瓦尔·赫拉利：是的，人工智能革命中最大的问题之一是学校该怎么做，如何教育年轻一代，因为这是有史以来第一次，我们真的不知道10年或15年后的就业市场会是什么样子。即使在历史上，你无法预测政治事件，无法预测地震或流行病，但你可以预测就业市场，它不会变化得这么快。但现在我们无法预测了。就像人们说的，我们应该教孩子们如何给电脑编程，也许等他们长大成人后，就不需要人类程序员了，因为人工智能的编程能力比人类强多了。

因此，最安全的做法是在学校里给孩子们提供广泛的教育，平衡四种不同的技能——智力技能、社交技能、运动技能或身体技能，最后是精神技能。如果我们现在在教育过程中只培养智力技能，这将是一个非常危险的赌注，因为人工智能正变得比我们更聪明。最容易实现自动化的工作就是那些只需要智力技能的工作。

在湖南省宁乡市菁华铺乡中心小学的劳动实践基地里，学生在给蔬菜浇水。 新华社

比如一部分医生的工作，他们更多地是在运用智力技能。比如你得了某种病，医生会收集信息，会问你问题，会收集你的医疗数据，然后分析这些信息，诊断病因，然后开出处方。这纯粹是智力活动，是信息的输入和输出，也是最容易实现自动化的工作。

相比之下，护士的工作却更难以被替代。比如说，有一个孩子受伤了，他来到诊所，他很痛苦、不断尖叫，护士当然需要智力技能，知道如何治疗，但更需要与孩子良好沟通的社交技能。当然，你还需要运动技能和身体技能。如何包扎，如何清理伤口？如何缠绷带？这就是运动技能。最后，你还需要精神技能。在这种情况下如何培养同情心？护士可能会生气恼怒，也许现在已经是下班时间，但这个孩子突然来了，他在尖叫，他很痛苦，他不但不让你照顾他，反而叫得更凶，你就更生气了。那么，如何管理自己的情绪和感受，培养同情心而不是愤怒呢？这是一种精神上的技能，而且这种技能更难自动化。

我并不是说人工智能永远不会发展这些技能，人工智能也在掌握社交和运动技能，但这比纯粹的智力技能要难得多。因此，我认为为年轻人提供均衡的教育是一个好主意，这种教育应同等重视所有四种技能，而不是只注重智力训练。