黑盒科学：当理解让位于结果
在马克斯·普朗克细胞生物学与遗传学研究所（MPI）成立25周年庆典上，牛津大学AI教授、DeepMind首席科学家迈克尔·布朗斯坦（Michael Bronstein）发表主旨演讲，提出一种激进观点：生物实验应生成针对机器学习优化的数据，即便这些数据对人类不可直接解释。
布朗斯坦主张优先追求数据规模而非单点质量，通过海量廉价且嘈杂的数据，让不可解释的黑盒模型提取信号。当被问及这能否像牛顿定律那样提供深层理解时，他坦言这并非目标，建议通过事后解释模型来弥补洞察力的缺失。这种“结果优先，理解滞后”的世界观，令旨在探索分子与细胞机制的MPI学者感到震惊。
这一逻辑并非新事。早在2008年，克里斯·安德森便在《理论的终结》中预言大数据将使科学方法过时。布朗斯坦援引此愿景，以AlphaFold为例，证明无需人类可理解的蛋白质折叠理论即可进行预测。然而，AI赋予了这种模式新的紧迫性：机器能产生经得验证的结果，而解释这些结果所需的理解却变得遥不可及。
数学界的警示：证明过剩与路径枯竭
数学领域最先感受到这种冲击。菲尔兹奖得主陶哲轩指出，AI正在制造大量经形式化验证、但无人能完全理解的数学证明。现有的同行评审与学术激励体系并未为此设计，审稿人难以跟上提交量的爆炸式增长。
更深层的危机在于“开放问题”这一不可再生资源的消耗。陶哲轩认为，寻找解决方案的过程本身——包括试错、发现失败原因及修正——能揭示流体力学等领域的新见解。若AI直接给出答案，这种探索动力可能消失。概率论学家雨果·杜米尼尔-科平（Hugo Duminil-Copin）也指出，对猜想的失败尝试往往促成合作并复兴关键技术，而直接获取结果无法重现这一过程。
正如陶哲轩所言：“从一个假设开始，发现阻碍其成功的确切障碍……这个过程几乎肯定会揭示重要新见解。”事后恢复解释或许能提供知识，但无法复现理解在搜索过程中开辟的道路。
技术驱动：2025年强化学习的爆发
AI生成数学成果的爆发，源于带有可验证奖励的强化学习（RLVR）在2025年成为模型后训练的主流技术。其逻辑简单直接：若输出可被代码测试或Lean等证明助手验证，模型即可通过自动反馈自我迭代，无需人工评分每一步。
为何编码智能体先于数学智能体成熟？因为构建AI系统的工程师有强烈动机优化自身工具。随着编码能力提升，能够编写程序、运行实验并使用自动检查的智能体，自然延伸至数学领域。Anthropic近期利用Lean形式化费马大定理证明，便是这一技术路径的成果。
资本博弈：署名权、成本与控制权
9月11日，25位菲尔兹奖得主联合声明，警告解决基准问题的竞赛正在破坏数学生态。争议焦点在于资源垄断与署名权。OpenAI动用10,000个智能体并发工作88小时解决千禧年大奖难题，据加州大学伯克利分校副教授阿比舍克·纳加拉吉估算，仅Token费用就高达2000万至3000万美元。
纽约大学数学家特里斯坦·布克马斯特（Tristan Buckmaster）透露，OpenAI曾施压要求其在未包含合作者（任职于Anthropic的莱文特·阿尔波格）的情况下发表成果。尽管OpenAI高管塞巴斯蒂安·布贝克予以反驳，但布克马斯特指出，这种压力迫使团队匆忙发表解释不足的工作。若理解被推迟，谁保证后续有人拥有时间与资源去发展它？
更令人担忧的是数据隐私与抢先发表风险。OpenAI承认，用户去标识化数据可能用于改进模型。这引发了丹尼尔·利特在《数学的终结》中的担忧：研究人员因害怕被抢先而扣留未完成想法，破坏科学合作的基础。
人才流失：谁在定义科学的未来？
随着AI研究人员从学术界流向工业界，专业知识与计算资源高度集中。布朗斯坦身兼牛津大学教授与DeepMind科学家双重身份，标志着企业影响力已渗透进大学内部。这种人才流失使公司在研究优先事项上获得更大话语权，而大学则面临培养下一代判断力人才的困境。
Po-Ling Loh指出，指导学生选择问题、识别方法失败原因及决定下一步尝试，是培养判断力的关键。若学生在发展这些能力前便将工作委托给AI，其专业判断力从何而来？马丁·海勒（Martin Hairer）强调，作者必须理解其论点并追溯思想来源。但当成果产出速度快于吸收速度时，履行这一责任变得愈发困难。
如果学术机构继续奖励论文数量而非深度理解，我们将奖励那些花更少时间发展判断力的人。最终，依赖模型传递专业知识可能导致知识从模型到模型的封闭循环，人类仅作为神谕的咨询者。
结语：数学作为金丝雀
在德累斯顿的啤酒花园里，生物学家、数学家与工程师共同焦虑地探讨未来。在生物学中，实验仍需符合物理世界，但自动化正使个体科学家能指挥曾经需要整个团队完成的实验。然而，处理样本、观察意外及排查故障的过程，正是学生和技术人员培养判断力的途径。
贾里德·杜克·利希特曼提出的“数学地图项目”试图通过形式化现有文献，构建计算机可检查的知识库，以帮助研究人员建立联系并辅助学习。但这需要刻意投入资源用于访问、阐述与教学。
MPI成立的初衷是理解细胞如何工作。我们希望AI能助力这一雄心，但人类理解必须是产出的核心部分之一。若将决定“谁知道”和“谁决定谁知道”的权力完全交给提供机器的公司，我们也便将科学进步的目的交由商业利益定义。分享所知与选择探究方向的能力，必须保留在人类手中。