如果一个技术有50%的可能造福人类，50%的可能为祸世间，要不要把它做出来？如果90%的概率是好事，但10%的概率是你直接咩了，做不做？我们应不应该执行那个计算出来的、效用最大化的选择呢。有效利他主义者会告诉你，如果计算本身足够科学理性就没问题，就等于是从人类整体福祉出发构建道德伦理基础。然而什么才是人类整体呢？换个通俗的问法，什么人才算人，不要笑这个问题幼稚，世间万般冲突的肇始，几乎都是不把某些人当人。具体到这个问题上，我们应该追求谁的效用最大化，是今天地球上生活呼吸的人，还是未来实现星际穿越的文明体里面，那些跟我们在解剖结构上有一定相似性的物种？

电影《银翼杀手》反派Roy雨中落泪，这一刻他不再只是个仿生人（图片来源：视频截图）

有效利他主义起源的时候，讲的是运用理性，去辨识最行之有效的方法，改善世界造福人类。马斯克信奉的教理属于有效利他下面的一个分支，叫长期主义，主张积极影响塑造遥远的未来，以它作为当前人类道德优先级最高的任务，也就是说未来人类可能殖民宇宙，实现极大的繁荣，那么我们今天就应该用尽全力奔赴星辰大海，去扩张探索，比如跟着我移民火星，这样做是在保存人类文明的火种。把这个逻辑推到极致，就是醇正的社达牌法西斯，因为社会资源应该全部流向那些火种的携带者的辨认与培养，谁更有机会成功发达，就应该给他们赋能，显然是社会的精英阶层，至于底层，千万不要浪费资源去拯救那些注定要被淘汰的废物。这才是着眼长期的有效之利他。

当然任何逻辑走到极端都是荒谬的，长期主义并没有这么极端，至少在关乎生死存亡的问题上，它是非常厌恶风险的，因为稍有不慎未来就没有人类了嘛。所以马斯克主张以高度谨慎的态度发展AGI，让它符合数字时代新精英阶层的长远利益。但意识形态总是无限可分，长期主义又在硅谷这个技术与资本交媾的温床上，孕育出了新的有效加速主义，其根本假设在于资本和技术都不是中性的，而是良性的，可以自动纠偏的，所以没必要因为风险而束缚手脚，而应该不惜一切代价调动资本，追求技术进步，因为进步就是一切问题的答案，就是人类最大的福祉。是不是有点耳熟，国内我也听过这样的声音。

其实我写这篇文章，不是为了讲述一场权力的游戏，而是为了揭开它背后的宗教思想，我就对这种东西感兴趣，哪怕看《权游》也关注里面的旧神七神红神淹神千面神之间的张力，不是说神仙打架，而是精神信仰对于人的影响。

你去听许多硅谷大牛关于AI的讲话，描绘一种乌托邦式的彼岸，让你脱离愚痴，获得圆满的智慧，脑机合一，成为新造的人，甚至通过上传记忆到云端a.k.a天堂，在某种程度上让人实现不朽。你告诉我，这跟宗教有什么区别？通过算法给人分配确定性的AI，跟神有什么区别？而努力迎接某种终极形态的到来，跟基督教末世论eschatology有什么区别？

为什么会有这种异曲同工？因为技术和宗教在西方文明的基因里就密不可分，前者是后者的实践手段。西方为什么崇尚我们所谓的奇技淫巧？这不是偶然，而是因为在西方经院的宗教道德观里，它们不奇不淫，恰恰才是正道。原因我以前在《魔戒》那期讲过，基督教根本的世界观认为人源于堕落，亚当夏娃失乐园，脱离了神的恩典，从造物主完美的创造，变成了俗不可耐的酒囊饭袋。人要怎么回归原初的状态呢？神学家告诉你，ora et labora，得劳动，造东西，造得越多，就越接近造物者的样子，通过创造来与神重建连接，重新成为“原人”。造东西就要用技术，所以科技原人，启动！跟很多人想象不一样，中世纪的西方最强调技术赋能的，竟然是教会，堪称黑暗时代的硅谷。它不断改良技术的出发点，不同于后来的资本逐利，而是追求道德至善，从而在精神上超越凡俗，获得救赎。

如果一门技术意味着巨大的不确定性，可能带来灾难，为什么还要如此决绝地追求它？因为在带来灾难的同时，它还可能帮助人类实现最崇高的目标——获得救赎。所以错的不是追求，而是技术本身不够好，因此科学与炼金术之间的关系，并非水火不容，而是版本更替，用弗朗西斯培根的话来说，都是为了追求造物者的荣光。新版本技术摆在面前，可以不用吗？在这种世界观里，未来实在太诱惑，因为末世只会淘汰非信徒，而对于信徒来说，末世意味着人间天国即将降临，而那时被提的人，已经是与技术融为一体，具有超凡意识与智慧的新物种，或许这便是长期主义所设定的人类文明的主体。

电影《奥本海默》剧照（图片来源：IC photo）

《三体》里讲了，如果整个人类世界都是偶然的幸运，我们还能指望靠这种幸运走多远？马斯克们认为，如果穷途末路必然到来，我们只能全员押宝在科技上，借助它完成自我演化，朝美丽新世界勇往直前，决不能止步，因为停滞就是自绝于未来。其实马斯克也好，奥特曼也罢，甚至他们的各路朋友和对手们，大家真正的分歧在于，谁是真先知，谁是伪先知，谁有资格引领人类，走向遥远的应许之地？答案不言而喻，就是第一个把AGI做出来，向世界展示神迹的人。

于是一场狂热的军备竞赛在所难免，参赛选手只关心结果，不关心的缘由，谁应许了什么，为什么要往前走，科技进步能通往道德的进步吗，进步是唯一的善吗，是人类唯一的目标吗，这条路除了成神还通往何方？难道人活着这件事本身，做一个酒囊饭袋所带来的joie de vivre，是没有意义的吗？生命这样的旅程，我渴求你的微笑来完整，你能为我打开自由的门，牵起手吧，新造的人。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。