第三，由于这些企业已经掌握了比政府所掌握的更多的关于公民（作为消费者）的信息，热衷于建设智慧城市、智慧政府、智慧法院的公权力部门也不得不求助于它们，浙江省法院系统求助于淘宝来获得当事人真实住址信息，只是一个还不那么“智能”的例子。这将模糊公权力与私权力之间的边界，使政府本来应该监管的对象成为政府的合作伙伴乃至实际控制者。

第四，这些掌握人工智能应用技术的企业，可以用人工智能来分析任何数据，包括消费者行为数据、政府决策数据、立法数据和法院判决数据，并生成对策。这些对策有些要求线下的人际沟通，而有些则完全可以通过线上操控来完成，比如谷歌和百度的搜索结果排序，京东、亚马逊和淘宝的有针对性的商品推荐，等等，从而诱导个人消费行为和政府决策行为、立法行为。而这种诱导往往以非常隐秘的、合乎人性的方式展开，不会让人觉得有什么不好的事情正在发生。

由此导致的结果便是，人们都“自愿服从”于某种他们看不见的力量，而这种力量借助“人工智能”的超强“脑力”使得法律和监管完全找不到对象，乃至被它牵着鼻子走。用脸书（Facebook）创办人扎克伯格的话来说，我们正在进入“算法”而不是法律统治人的时代。而算法在表面上就缺乏法律的无偏私性和一般性：它毫不遮掩地服务于设计者植入其中的目的。

第五，一旦人工智能被应用于本来就充满流动性、风险与不确定性的金融市场，便可能带来既无创新价值，又危害巨大的灾难性后果。2010年5月6日，美国股市发生了“闪电崩盘”，一万亿的资产价值瞬间蒸发，股价齐跌9个百分点，道琼斯指数急落1000点。美国证券交易委员会（SEC）花了半年的时间才搞清楚发生了什么：原来是不同炒家的计算机程序在相互竞争的过程中导致了失控，在这个被称为高频交易的神秘世界里，这些系统可以“迅雷不及掩耳”地收割小型获利机会，还可以相互探测和利用彼此的交易策略。

像这样的人工智能对决不仅存在于股票市场，还存在于任何投机性的多方博弈市场。事后追责型的法律对策，无法阻止人们在巨大利益的引诱下，利用人工智能进行这种损害范围无法控制的赌博式行为。

在人工智能所带来的人类生活世界的一系列改变中，以上只是几个比较突出的直接挑战传统法律应对模式的例子。随着人工智能应用领域的不断扩大（这是必然会发生的），它对现代法律体系的冲击会越来越强烈。

然后，习惯于在固定的思维框架（法律教义）中来思考问题的法律人，很难跳出这种框架去面对和理解日新月异的社会事实。在下面一节，我将以欧盟的“机器人法”立法建议以及美、德两国的无人驾驶立法为例，来说明这种传统思维方式在应对人工智能问题时的局限性。

人工智能对法律职业的冲击

（一）人工智能的“法律人格”

1942年，美国科学家和科幻小说作家伊萨克·阿西莫夫，在短篇小说《转圈圈》中提出了“机器人的三条律法”：第一，一个机器人不得伤害一个人类，也不能因为不作为而允许一个人类被伤害；第二，一个机器人必须遵守人类施加给它的规则，除非这些规则与第一律法相冲突；第三，一个机器必须保护自己的生存，只要这种自我保护不与第一或第二律法相冲突。但机器人发现自己无法同时遵守第二和第三条律法，因此它陷入了不断重复自己先前行为的循环。

这种情况不会发生在人身上，也不会发生在其他生命体身上，因为，正如霍布斯所说，自我保存是第一自然法。人会本能地在自我保存与勿害他人之间选择前者。逆此而行的利他主义行为有时也会发生，但要么是道德教育或宗教信仰的结果，要么是出于保护后代的延伸性自我保存目的。只有严格按照人类植入其程序（算法）之中的规则来行事的机器人，才会陷入这种无解的怪圈。

在阿西莫夫提出机器人三大律法的前一年，德国工程师康拉德·楚泽刚刚发明世界上第一台能执行编程语言的计算机Z3，这套继电器式计算机只能存储64个单词的内容，而且运行速度极其缓慢。显然，阿西莫夫还很难想象今天任何一部普通个人电脑的计算能力和存储空间，更不用说互联网和云计算了。因此，他把机器人想象为一个具象化的、能够伤害人的身体也能被人伤害的物体是可以理解的，而且实际上已经是非常有远见的。但如今的法学家们仍然以这种拟人化的想象来理解机器人，试图制定规范来约束它们的行为，甚至赋予它们法律主体资格，这便显得有些不合时宜了。

2016年，欧洲议会向欧盟委员会提出报告，要求制定民事规范来限制机器人的生产和市场流通。其中第50（f）项建议：“从长远来看要创设机器人的特殊法律地位，以确保至少最复杂的自动化机器人可以被确认为享有电子人（electronic persons）的法律地位，有责任弥补自己所造成的任何损害，并且可能在机器人作出自主决策或以其他方式与第三人独立交往的案件中适用电子人格（electronic personality）。”

但在如何落实这种“法律人格”所必然带来的民事行为能力和责任能力规则时，这份报告并没有提出具体的方案。如果机器人对人造成了损害，究竟是适用罗马法中的“缴出赔偿”（noxoe deditio）原则（即把机器人交给受害者或其家属处置），还是让机器人支付赔偿金或坐牢（在这种情况下，最终承担责任的仍然是机器人的“主人”，因为机器人不可能有独立的收入，限制它的“自由”则等于剥夺了其“主人”的财产权）？

由此可见，机器人无论以何种方式承担责任，最终的责任承担者都是人，这使得它的“法律人格”显得多余和毫无必要。

实际上，这份报告在具体的规则设计部分也自动放弃了适用机器人“法律人格”的努力，比如，它提议制造商为他们的机器人购买强制性保险。此外，还要设立专门的基金来补充保险机制，主要的出资人也是制造商、经销商和其他利益相关者。这套保险机制的覆盖范围不仅是机器人，还包括机器管家、无人驾驶汽车和无人机等。该报告还提议设立专门的“欧洲机器人和人工智能局”来管理被归类为“智能机器人”的机器。这体现了传统的官僚机构思维方式。

这份报告指出，机器人的销售在2010—2014年间增加了17％。涉及机器人的专利申请在十年间增加了三倍。德国人均拥有机器人的数量已位居全球第三，仅次于韩国和日本。仅在2015年，全球销售的机器人就达到50万个左右。预计到2018年，全球将有230万个机器人在活动。但它并没有提供这些机器人实际造成损害的数量和类型。

德国主要的工程和机器人行业协会VDMA发表了反驳声明，指出政治家的担心是科幻小说看多了的结果，目前人工智能给人类带来的好处远远多于坏处，立法者不应该仓促出台规制措施来阻碍工业4.0的发展。在具有无限潜力的人类发展领域，充分的讨论是有必要的，但没有必要制定出详细的法律规则。

（二）自动驾驶汽车

2017年5月，德国联邦议会和参议院通过了一部法案，对《道路交通法》进行了修改。它允许高度自动化和完全自动化的汽车作为交通工具上路。但为了符合1968年《维也纳道路交通公约》第八条“每一部车辆在行驶时都必须有驾驶员在位”的规定，它没有允许自动驾驶汽车变成“无人驾驶”汽车。它规定，当自动驾驶系统启动之后，司机可以转移注意力，比如去读书或上网，但她必须保持足够的警觉，以便在系统发出请求时恢复人工控制。它还要求高度或完全自动化汽车安装记录驾驶过程的黑匣子，在没有卷入交通事故的情况下，黑匣子信息必须保存半年。如果自动驾驶模式正在运行过程中发生了事故，责任在于汽车制造商。但如果自动驾驶系统已经发出了请求人工控制的信号，责任便转移到了汽车上的驾驶人员身上。

在这部法律通过之前，法学家弗尔克·吕德曼（Volker Ludemann）教授曾经在联邦议会发表专家意见，指出法律草案有四个缺陷，这些缺陷虽然后来部分得到了修正，但其给司机带来的不确定性以及隐私问题却仍然存在。

在新法下，司机不知道该怎样做才能避免法律责任，自动驾驶汽车无法实现真正的“无人驾驶”，也就是车上只有乘客而没有驾驶员，阻碍了自动驾驶汽车的商业化发展。试想，如果一个人花比传统汽车贵得多的价钱购买了自动驾驶汽车，却时刻必须保持警觉，而且要在自动驾驶系统控制汽车操作一段时间后瞬间介入，应付紧急情况，这实际上对驾驶员提出了更高的要求。

新法把自动驾驶汽车造成人身伤亡的最高赔偿额度提高到1000万欧元，比原来的最高赔偿额度增加了一倍。虽然这笔赔偿在多数情况下将由保险公司支付，但保险公司无疑会提高保费，这也增加了自动驾驶汽车车主的负担。此外，黑匣子信息保留半年的规定也增加了个人数据和隐私被滥用的风险，因为自动驾驶汽车上遍布的传感器和摄像头会记录下非常多的个人私密信息。

与德国立法模式相对照，2017年9月在美国众议院通过的《自动驾驶法》（Self Drive Act）则采取了一种完全不同的思路。它没有改变现有的道路交通规则和与事故责任相关的侵权法规则，而是用宪法和行政法的思维方式划分了联邦与各州之间在规制自动驾驶汽车方面的责任，明确了交通部在确立自动驾驶汽车硬件安全标准、网络安全标准、公众知情标准等方面的具体义务和履行时间表。

其中第12条强化了隐私权保护，要求制造商和经销商只有在提出了满足一系列具体要求的“隐私权保障计划”的前提下，才可以供应、销售或进口自动驾驶汽车。这些要求旨在确保自动驾驶汽车的车主和使用者对自己的个人数据和隐私有充分的控制能力，不至于在自己不知情的情况下任由制造商或程序设计者使用自己的个人数据。这部法律目前还没有在参议院获得通过，其内容还可能会有进一步修改，但基本框架应该不会有大的改变。

（三）算法设计者必须遵守的伦理规范

与上述约束自动驾驶汽车制造者和使用者的规范不同，德国交通部长任命的伦理委员会最近提出的一个报告，展现了一种完全不同的思路：要求算法（即软件）编写者遵守一系列伦理法则。其中提出了20条伦理指导意见，核心是把人的生命放在首位。比如，其中第七条要求：在被证明尽管采取了各种可能的预防措施仍然不可避免的危险情况下，保护人的生命在各种受法律保护的权益中享有最高的优先性。因此，在技术上可行的范围内，系统必须被编程为在权益冲突时可以接受对动物和财产的损害，如果这样可以防止人身伤害的话。第八条规定，诸如伤害一个人以避免对更多人的伤害这样的伦理难题不能通过事先编程来处理，系统必须被设定为出现这种情况下请求人工处理。