如果科学领域的一个极具启发性的问题刚刚被公开，很快就有一群AI智能体涌入、争相求解，科学家还会愿意把自己尚未成熟的研究方向告诉同行吗？
近日菲尔兹奖得主、数学家陶哲轩连续数日在数学社区讨论AI对数学研究的冲击。他把那些能够产生新方法、新洞见的开放问题称为一种可能被快速消耗的“不可再生资源”：一旦某个有价值的研究方向被公开，大量AI算力和智能体可能迅速涌入，抢先推进甚至解决问题。这可能迫使研究者不再公开有前景的研究方向，从而“逆转数百年来开放科学的传统”，并对数学的长期发展造成严重损害。
陶哲轩认为，数学问题当然可以无限地产生，但真正值得投入多年研究、能够带来新方法和新理解的问题并没有无限供给。他用一个比喻解释这种稀缺性：一个地区即使被浩瀚海洋包围，也仍然可能严重缺乏饮用水。
更令他担忧的，是AI带来的科研机制的变化。当AI越来越擅长获得“答案”以后，数学乃至科学赖以运行的另一套机制会不会受到破坏：公开问题、相互讨论、经历失败、形成新方法，以及年轻科学家在这一过程中的成长。
被AI挤掉的“成长阶梯”
陶哲轩是积极拥抱并实践AI的顶尖数学家之一。
2024年测试早期推理模型o1时，他曾把AI形容成一个“水平一般、但并非完全不称职的研究生”。到了今年3月，他的评价已经明显改变。在UCLA的Accelerating Math and Theoretical Physics with AI（以AI加速数学与理论物理）会议上，他表示当前大模型在数学和理论物理领域已经做好上场的准备了，因为它“节省的时间已经超过浪费的时间”。
4月接受Nature采访时，陶哲轩进一步判断，数学家的“工作说明正在发生变化”。他自己已经把AI用于文献检索、代码生成、绘图、计算以及把“大胆的想法”交给 AI 测试。此前，他曾透露自己联手ChatGPT攻克了一个MathOverflow难题，节省了数小时的编码时间。
他把AI带来的变化概括为数学正在从 “proof scarcity（证明稀缺）”走向“proof abundance（证明丰裕）”。但问题也随之而来：我们的数学基础设施和文化尚未适应这一点。
陶哲轩多次表达了担忧。在一次访谈中，他称科研体系正处在“有些危险的节点”：AI正在以越来越快的速度制造科学产出，或者至少是“看起来像科学产出的东西”，但代价可能是损害下一代科学家的培养。
他举例，研究生进入一个领域后，导师通常不会让其直接挑战最困难的开放问题，而是先安排一些难度相对适中、可以获得科研经验和职业认可的项目。现在，这类训练问题正好进入AI快速扩张的能力范围。
陶哲轩说，如果用AI替代研究生，AI可以生成研究生水平的论文，但我们不会因此得到下一代学生。如果科研体系只不断生产结果，却没有人继续消化这些成果、形成下一代知识基础，科学社会甚至可能在优化已有技术的同时，失去产生真正原创思想的能力。
他打了个比方，做数学像徒步去远方，AI则是架直升机，直接把人们空投到答案附近。但数学的价值不只是到终点，慢速做事也有价值。一个科学家花几个小时在纸上算，在野外亲手做实验，实际调试模拟，他们常常学到很多超出得到答案的额外洞察。他们可以发现新现象，看到联系，看到与文献中先前研究过的某些东西的相似性，并与其他人交流他们的发现，这些可能比最终的证明更加重要。
所以悖论出现了：AI变得更强大、更有能力、犯错更少，表面上实现了科学家试图做的许多目标——运行实验、分析数据、写论文。但可能代价是AI获得了一些技能，人类科学家在科学上并没有变得更好。没有人能准确交流发生了什么，为什么这个科学发现有趣，为什么这个证明是新的，它有什么特点以及如何联系。
陶哲轩的担忧并不孤立。今年1月Nature一篇题为《人工智能促进科学家影响力增长，却制约科学认知边界扩张》的文章分析了AI工具进入科学研究后的影响。结果显示，使用AI的科学家通常会发表更多论文，也获得更高引用和影响力；但与此同时，他们研究的问题却更加集中，整个科学共同体探索的主题范围出现收缩。这意味着AI可能让科学家变得更有效率，但整个科学体系却未必因此变得更多样。
此前，Nature还对近3800名博士生进行的调查显示，四分之三的受访者认为AI能提高学习和研究效率，但65%担忧AI会削弱思考、研究和写作能力。
科研产出可以被AI加速，科学家的成长却未必能被同样压缩。这成为AI进入科研之后一个越来越现实的问题。
边界在哪儿？
为什么这一轮冲击最明显地发生在数学，而不是物理、化学或者其他实验科学？
今年外滩大会上，普林斯顿大学教授王梦迪从AI技术本身给出了解释。她认为，目前的大模型尤其擅长学习已有知识概率分布中最常见、概率最高的部分，却容易低估甚至忽略长尾。而真正的科学发现，往往恰恰发生在长尾，甚至意味着找到训练数据和已有知识分布之外那颗从未被观测过的“星星”。
数学和编程之所以成为AI最先快速突破的领域，一个重要原因是它们存在明确的“验证器”，每一个计算、每一步推导都可以重现、回溯。在编程领域，代码可以由编译器和单元测试验证；在数学领域，借助各类形式化证明工具，数学证明也可以转换成机器能够检查的形式。AI每进行一次尝试，都能获得相对清楚的“正确或错误”反馈，从而不断尝试、验证和改进。
现实世界则没有这么容易。物理、化学和生物研究最终必须接受真实实验的检验。实验设备、材料状态、人的操作乃至环境变化，都可能带来不确定性。
在她看来，真正科学发现的瓶颈并不只是产生一个听起来聪明的想法，更困难的是如何验证它。
这也说明了为什么今天频繁出现“AI攻克数学难题”，却很难看到AI独立发现一条新的物理定律。
而关于AI进入科研，王梦迪介绍，她和团队正在探索一套名为LabOS的科研实验室智能操作系统，希望把实验设计、参数、操作、质量控制和验证连接成一个闭环。一些过去需要有经验的物理博士生耗费数月手工完成的实验流程，可以逐步被自动化、API化。
按照她的说法，在团队已经完成的一些验证中，这套系统能够让第一年的本科实习生执行接近经过长期科学训练人员所能完成的精确科研流程。
诺贝尔经济学奖得主菲利普·阿吉翁在外滩大会上的回答，把这一问题进一步推到了更早的教育阶段。
当被问及年轻人应该如何面对AI时，他首先提出，学校应该更加严格地规范AI使用。学生需要首先学会自己阅读、独立计算，并专注于问题和定理的推导。先学会在没有人工智能的情况下学习，然后才能把AI作为辅助工具，并且需要教师指导。否则，他担心可能出现一整代人不知道如何独立计算，也难以集中注意力阅读一本书或者完成数学证明。
陶哲轩也在尝试调整数学教育。在一场公开对谈中，陶哲轩表示，传统的每周作业已经越来越难适应AI时代。他在教学实践中更多采用项目制考核、口头考核。他提出，不必再布置和过去一样的标准化习题，可以让学生承接更有雄心的项目；独立验证 AI 生成输出、判断其正确与否，会成为学生必须掌握的一项核心能力。
换句话说，AI时代的教育并不一定意味着减少训练，而可能意味着把训练从“自己完成所有步骤”，转向“提出更好的问题、组织更复杂的项目，并独立判断机器给出的答案是否可信”。
在9月讨论AI公司竞相宣布解决未解数学问题时，陶哲轩提出一种新的竞赛设想：与其比谁先宣布解决了一个未解问题，不如比谁先发现了一个新的数学洞察。
