当可以让人工智能告诉我任何想要的东西时，为什么还要自己搜索？当可以让人工智能告诉我有什么新闻时，为什么还要读报纸？当我可以让人工智能告诉我该买什么的时候，广告的意义和目的又是什么呢？

很有可能在很短的时间内，整个新闻广告行业将崩溃，而人工智能或控制人工智能的人和公司将变得非常非常强大。

我们可能谈论的是人类历史的终结，但这并不是历史的终结而只是人类统治时代的终结。

当人工智能接管文化时，历史进程会发生什么？几年之内，人工智能可以消化掉整个人类文化，消化掉那些我们几千年来创造出来的所有东西，并开始产出大量新的文化创作、新的文化产物。

记住，我们人类从来没有真正直接接触过现实。我们总是被文化所束缚，我们总是通过文化的牢笼来体验现实。我们的政治观点受到记者的报道和朋友的故事的影响，我们的性取向受到电影和童话的影响，甚至我们走路和呼吸的方式也受到文化传统的影响。

在此之前，这个文化茧房总是由其他人编织而成。以前的工具，如印刷机、收音机或电视，它们有助于传播人类的文化思想和创造，但它们永远无法自己创造出新的东西。印刷机不能出一本新书，这是由人来完成的。

人工智能从根本上不同于印刷工艺，不同于无线电，不同于历史上的任何一项发明，因为它可以创造全新的想法，可以创造一种新的文化。

在最初的几年里，人工智能可能会在很大程度上模仿初期“哺育”它的人类原型，但随着时间的推移，人工智能文化将大胆地走向人类从未涉足的领域。

几千年来，我们人类基本上生活在他人的梦想和幻想中。我们崇拜神灵，我们追求美的理想，我们把自己的生命奉献给源于某些人类诗人、先知或政治家想象的事业。很快，我们可能会发现自己生活在人工智能的梦想和幻想中。

如何处理这种潜在的危险与科幻作品的想象非常不同。此前，人们主要担心的是智能机器带来的人身威胁，所以在《终结者》中机器人在街上奔跑，射杀人类；《黑客帝国》则假设要想完全控制人类社会，人工智能首先需要控制人类的大脑，并将大脑直接连接到计算机网络，但这是错误的。

只要掌握了人类语言，人工智能就能在一个像矩阵一样的幻想世界中生存。真的不需要为了控制和操纵人类而在他们的大脑中植入芯片，几千年来，先知、诗人和政治家们一直使用语言和讲故事来控制、操纵人类，重塑社会，现在人工智能很可能就能做到这一点。

它不需要让杀人机器人来射杀我们，如果真的需要，它完全可以让人类自己来扣动扳机。

现今这种对人工智能的恐惧只困扰着最近数代人类，从20世纪中叶倒回到弗兰肯斯坦这一形象出现的时代，差不多有200年的时间。但几千年来，人类一直被一种更深层次的恐惧所困扰。人类一直很重视故事、图像和语言的力量，它们可以操纵人类的思想，创造幻觉。

因此，自古以来，人类就害怕被困在幻想的世界里。17世纪，笛卡尔害怕恶魔把他困在各种各样的幻觉中，制造了他所看到和听到的一切；在古希腊，柏拉图讲过一个著名的“洞穴寓言”，一群人被锁在一个洞穴里，面对着一堵空白的墙，他们看到投射在墙面上的各种阴影，并把这些阴影误认为是现实；在古印度，佛教和印度教认为，人类生活在他们称之为“玛雅”的地方——玛雅是一个充满幻想的世界。

佛陀说，我们通常认为是现实的东西，往往只是我们自己心中的虚构。

人们可能会发动全面战争，杀死别人，甚至愿意杀死自己，因为他们相信这些虚构的东西，所以人工智能革命让我们与纸牌恶魔、柏拉图的洞穴还有玛雅面对面，如果不小心，幻觉的帷幕可能会笼罩整个人类，我们将永远无法撕开那块帷幕，甚至无法意识到它的存在，因为我们认为这就是现实。

如果这听起来有些牵强，那看看过去几年的社交媒体。社交媒体让我们对未来的事物有了一点了解，在社交媒体中，原始的人工智能工具，并不是用来创造内容的。内容创作是由人类创造故事和视频等，而人工智能选择哪些故事和视频会进入我们的视线——那些最受关注的、最具病毒性传播的内容。

虽然这些人工智能工具非常原始，但它们已经足以制造出了一层幻觉的帷幕，加剧了社会两极分化，损害了我们的心理健康，破坏了民主的稳定。成千上万的人把这些幻觉误认为是现实。

美国拥有强大的信息技术，但美国公民却无法就谁赢得了上次选举、气候变化是否真的发生、疫苗是否能预防疾病达成一致。新的人工智能工具比这些社交媒体算法强大得多，可能造成更大的破坏。

当然，人工智能有巨大的积极潜力。我不谈论它，因为开发人工智能的人自然会谈论它，我需要补充下，像我这样的历史学家和哲学家的工作经常是指出危险。

当然，人工智能可以在无数方面帮助我们，从寻找治疗癌症的新方法到发现我们所面临的生态危机的解决方案。

为了确保新的人工智能工具被用来做好事，而非做坏事，首先需要了解它真正的能力，需要非常仔细地监管它们。

自1945年以来，我们知道核技术可以物理破坏人类文明，也可以通过生产廉价而丰富的能源使人类受益。因此，我们重塑了整个国际秩序，以保护自己，并确保核技术主要用于正义。

我们现在必须与一种新的大规模杀伤性武器作斗争，这种武器可以消灭我们的精神和社会世界。核武器和人工智能最大的区别是，核武器不能制造更强大的核武器。但人工智能可以产生更强大的人工智能，所以我们需要在人工智能失去控制之前迅速采取行动。

同样，政府必须立即禁止在确认其安全之前将任何更具革命性的人工智能工具发布到公共领域。

我再次强调，我不是在谈论停止人工智能的研究。第一步是停止向公众发布，你可以研究病毒而不向公众发布，你可以研究人工智能，但不要过快地向公众发布。如果不放慢人工智能竞赛的速度，我们甚至没有时间去了解正在发生的事情，更不用说有效地监管这项令人难以置信的强大技术了。

你可能会问，放慢人工智能的公共部署，难道不会导致民主落后于更无情的专制政权吗？绝对不是，且正好相反。不受管制的人工智能部署将导致民主国家输给独裁政权，因为如果我们释放混乱，威权政权比开放社会更容易遏制混乱。

民主本质上是一种公开的对话，对话依赖于语言，当人工智能拥有语言时，这意味着它可能摧毁我们进行有意义的公共对话的能力，从而摧毁民主。

如果我们坐等混乱发生，那么用民主的方式来管理它就太晚了。如果没有及时监管人工智能，我们将无法再进行有意义的公开对话。

综上所述，我们基本上是在地球上遇到了外星智能，而不是在外太空。我们对它们所知甚少，只知道可能摧毁我们的文明。

因此，应该正视这种不负责任地将它们部署到我们的社会中的举措，并在人工智能控制我们之前对其进行监管。

我们可以提出许多管理措施，但是我的首要建议是强制人工智能披露自己是人工智能，如果我和某人交谈，我不知道这是一个人还是一个人工智能，这就是民主的终结，因为这意味着有意义的公共对话的终结。

大家对刚才听到的演讲有什么看法？我想你们中的一些人可能会有所警觉，一些人可能会对开发这些技术的公司或未能监管这些技术的政府感到愤怒。还有些人可能会生我的气，认为我是在夸大威胁或误导公众。

但不管你怎么想，我敢打赌我的话对你产生了一些情感上的影响而不仅仅是智力上的影响。我刚刚给你讲了一个故事，这个故事可能会改变你对事物的看法，甚至可能导致你采取某些行动。

你刚刚听到的演讲故事是谁创造的呢？我向大家保证，尽管使用的图像是在人工智能的帮助下创建的，但这个演讲的文本是我在几个人的帮助下自己完成的，至少你听到的这些话是人类思想的文化产物，是几个人类思想的产物，但你能绝对肯定吗？

一年前，在公共领域，除了人类的思想，地球上没有任何东西可以创造这样一个复杂而有力的文本。但现在情况不同了，你听到的文本可能是由非人类的智能产生的。

所以花一点时间或者更多的时间来思考这个问题吧，谢谢！