直到开普勒找到修正模型——轨道不是圆而是椭圆——日心模型才变得比地心模型更精确。这说明，科学中你不能总是立即得到是否解决科学问题的反馈。如果开普勒和哥白尼有AI，让他们预测宇宙模型，生成正确日心模型的AI可能会被丢弃，因为最初它们的预测不如地心模型。需要时间来真正消化所有这些理论，看它们如何与我们对行星、运动、引力等已知的一切相契合。

一个担忧是AI太快了。有危险AI会做所谓的过拟合，创建非常复杂的模型，与实际毫无关系，但非常非常好地拟合你的数据，却无法外推到该数据集之外。我们如何将AI融入科学发现过程将是一个挑战。它当然可以加速过程的各个步骤——你可以更快做实验、写代码、写论文。但整个科学可能不会仅仅因为每个组件变快而加速。有危险当我们把AI指向科学时，会优化错误的东西，表面上得到所有这些惊人成功，但发现科学并没有像过去那样进步。但我们会发现，拥有这些工具仍然比没有好——我们仍在学习如何最有效地使用它们。

我们做的一部分是解决问题、寻找解、证明东西。证明经历一定生命周期。首先，你得生成一个解或证明——这曾经很难，但一些生成证明不正确。然后你得验证，检查哪些正确——这也曾经很繁琐。但这两项任务都在越来越自动化。

我们开始看到越来越多的各种问题的提出解，其中许多实际上是正确的，但证明也越来越长。当AI写证明时，通常不愉快——AI生成的证明可能花很多时间谈论非常琐碎的事情，却很少讨论论文中最有趣的部分。我想因为AI无法区分什么难、什么容易——对它们来说，暴力破解下所有事情花相同时间。一个自然必须在论文最困难步骤上挣扎的人类会自然花很多时间在那一步。所以你需要以读起来好的方式写出证明，可以向他人解释。

然后其他人必须对它感到兴奋，接受它——“这真的很有趣，这将帮助我解决我自己的问题”，或者它真正阐明了为什么这个现象成立。必须被接受——这就是我们传统上同行评审过程的地方，我们送论文给审稿人，如果审稿人对结果兴奋，论文被接受。但可能有论文技术上正确、可读性好，但回答的是没人关心的问题。

最后，需要完全精炼并放入教科书，教给学生。通常证明的第一版不适合写进教科书——通常以非常低效的方式完成，步骤顺序不太逻辑。有一个消化的过程，有人花很多时间思考什么是完全正确的组织方式，编辑论文，使其流畅——有点像编辑纪录片或电影。

我们发现AI工具在加速这个过程的早期阶段，但不在晚期阶段。我们现在生成很多证明，验证一堆，但理解它们并将它们放入最终教科书形式的过程仍然由人类完成。实际上，我们现在经历所谓“证明消化不良”——突然有大量待理解的解决方案应该进入教科书，但我们被太多淹没了。我们必须选择和分诊。这是以前从未发生过的事情。过去解决方案出来得太少，如果一个重大问题的解被解决，所有专家会放下一切阅读并尽快消化，因为它如此罕见和宝贵，值得做。

现在我们被所有可能的解决方案淹没。我自己已经不得不停止试图跟上我领域所有最新发展——有时有太多事情。我不能保证阅读出现的每一个发展。这在AI之前已经开始成为问题，但AI确实大大加速了内容生成的数量。我们需要更好的策展和过滤。这是个好问题——好比食物太多比不够吃好——但仍然是问题。

AI现在能做什么以及面临什么风险

AI在数学方面变得越来越有能力。对于我这样过去三年关注发展的人来说，有稳定的进展：四年前能解决中学数学，然后高中，然后高中奥赛级，然后研究生资格考级，然后开始解决一些小的未解决问题——可能保罗·埃尔德什提出但没人真正关注的低垂果实。

然后最近有一两次，它们设法解决了一些人们确实非常努力尝试过的问题——人类集体都走错了方向，而AI有不同的偏见集，设法拼凑出一个相当聪明的解决方案，已经有一些影响。例如单位距离问题附近的一些问题也被人类解决，他们改编了AI的技术。

我觉得这相当令人兴奋。对一些同事来说，这非常令人担忧，尤其是如果他们没关注之前的进展，不知道到了什么水平。如果一个同事只见过2023年ChatGPT能做什么——你问它一个困难数学问题，它给你完全垃圾——而现在的模型大不相同。虽然本质上还是相同技术，但他们找到了降低错误率的方法，变得真正有用。

尚不清楚这是否可重复。很多这些成就是由私人公司完成的，他们没有披露花费了多少资源——是10万美元算力还是100万美元？我们不知道。我们不知道成功率——他们解决的是唯一问题还是看了10个、100个？虽然结果令人印象深刻，我们没有足够数据来真正评估这将成为完全常规的事情，还是只有花10万美元、几个月、10人团队才能得到这样的结果，而且只有1%我们关心的问题适用这种方法。我们不知道。

但有努力进行更适当的科学基准测试。最近的一个挑战叫FrontierMath挑战，他们测试了最新模型在一组10个研究级问题上的表现，最好的模型能做10个中5-6个中等难度的问题（已有解但答案保密）。我认为有很多日常研究中的常规任务，有一定百分比现在可以由AI完成。可能成本高——很多工具运行需几百美元才能得到解，有时失败，花掉所有算力却无有用结果。

我们在编程中看到，许多专家程序员报告使用这些工具后写代码能力提高了5倍、10倍甚至100倍，但他们也感到自己手写代码能力下降，有时无法审查这些代理生成的代码。存在权衡——速度不是一切。

我非常喜欢数学的合作方面。我直到职业生涯较晚才意识到它如此重要——我有很多数学是在研究生毕业后通过与不同领域的数学家和科学家合作学到的。我教他们我知道的，他们教我他们知道的，结果我变得广博得多。当你与长期合作的伙伴合作时，有时你们几乎在精神上相互调谐——就像亲密朋友或家人，有时你能接完对方的句子。你知道对方要说什么。合作中有时能体验到这点：你抛出想法，话还没说完，对方就明白了并可以继续。

人们曾尝试像这样使用AI，但AI你不能与它们对话——它们会犯错，有时会谄媚，只告诉你你想听的。而且目前与这些工具的互动是个人化的——我曾尝试与人面对面合作时同时有AI在场，但它破坏了节奏。这些工具还不太具有对话性，不像与人类合作者那样流畅。也许它们会达到那一步。直到最近，它们不会从你的对话中学习——与伙伴合作，你第二天可以很快接上，甚至多年未见也能接上旧话题。AI有一定上下文，能记住一些东西并做笔记模拟记忆，但你无法像与亲密合作伙伴那样调谐到AI。

实际上，我并不怎么用这些工具来解决实际问题。我发现迄今为止，这些工具在次要任务上好得多，比如文献搜索、检查证明、写代码、校对我写的东西看能否更精炼。我与AI合作的节奏不太是我喜欢的，我更偏好人类合作者，但这可能只是当前技术状态。也许未来AI会更会话化、更人性化。

我们现在整个科学事业的资助结构，正处在一个相当危险的关头。一方面，这些工具让我们能以大大加速的速度创造科学输出（或看似科学输出），但可能以牺牲我们为下一代科学家培育的“种子玉米”为代价。例如，确实担忧我们给研究生的训练问题——作为他们的第一个项目，获得认可、职业培训和经验——这类问题现在AI可以复制很多论文。但如果你用AI取代研究生，AI会生成那些研究生水平的论文，但我们得不到下一代学生。

如果我们不继续消化所有AI输出的过程，为下一代人类和AI建立知识基础，我们可能会作为科学社会停滞不前——我们将能优化当前技术能做的所有事情，但可能不再发展真正原创的新想法。我们需要更开放地讨论基础科学是什么、有什么用处，为什么仍然需要好奇心驱动的研究，为什么我们仍然需要人类社区有时慢慢地、以不如最新AI模型高效的方式探索事物，以及我们获得的洞见。

我认为我们应该更多地分享它们，更多地与公众互动。今天的大众能看到科学的可见产出——他们有手机、互联网、GPS。很多人看不到整个过程，以及对数学和科学的基本理解如何让周围世界不再可怕，而是更清晰。我认为很多人现在生活在焦虑中——世界太复杂。我们没有像强调硬性技术产出那样强调科学的这些软性价值。但科学确实为人的思维带来一定清晰度，这些都是有价值的东西，需要得到支持。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。