昆士兰大学教授警示：AI数学能力已超越人类，好奇心或致终结

今年年初之前，我仍视人工智能（AI）为炒作，静待其泡沫消退。尽管曾试用ChatGPT，但对其自信输出错误内容的表现并不买账。基于对“智能”数学本质的理解，我曾坚信机器无法触及真正的智慧核心。

转折发生于今年早些时候。在经历道德层面的犹豫后，我订阅了一项每月30美元的AI服务。随之而来的认知冲击，成为我智力生涯中最深刻的一次震荡。

AI的进步速度令人咋舌：五月，它像一名优秀的博士生；六月，成为平等的同事；七月，表现已优于我；到了八月，它甚至展现出超越顶尖数学家的能力。九月，OpenAI宣布攻克流体运动领域的千禧年大奖难题——纳维-斯托克斯方程，并发布了另外372个长期困扰数学界的核心问题解决方案。

目睹建立在数千年知识积累之上的世界观开始崩塌，这种震撼远超听闻AI颠覆其他领域。AI在数学上的突破并非炒作，若你仍持怀疑态度，不妨设定一个你认为需“真正智能”才能完成的任务，观察AI多久能将其攻克。

然而，非凡的能力并不等同于即时的经济收益。正如上世纪90年代末，评论家虽正确指出互联网的变革潜力，但狂热者误将潜力视为即时回报，最终导致泡沫破裂。我们需警惕重蹈覆辙，避免将AI的技术突破直接等同于合理的经济预期。

即便如此，历史类比亦有局限。即便AI的全面采用需数年乃至数十年，其能力演进速度已足够引发深层焦虑。我不担心失业，而是担忧这对人类及下一代意味着什么。

最令人不安的是，我们对正在创造的事物知之甚少。虽然芯片、数据中心和算法由我们构建，但从中涌现的智能内部运作依然 largely mysterious（大部分神秘莫测）。在缺乏足够缓冲期的情况下，让几乎无法理解或控制的系统介入经济与战争决策，风险巨大。

我们需要时间慢下来。现有AI模型已足以改变行业并加速科学发现，为何还要冒着赌博般的风险，一味推动智能前沿？通常的解释是市场压力与地缘政治竞争，但作为科学家，我看到了另一种驱动力：好奇心。

人类曾仰望星空寻找外星智慧，如今却在自家后院“培育”出一种外星智能。与另一个“存在”对话的诱惑，驱使我们不断将技术推向逻辑终点。然而，一位原住民的言论提供了不同视角：“当我们看到一座山，我们会绕道而行；你们看到一座山，则会攀登它。”

在追求智能的道路上，我们或许正在攀登一座神圣而危险的山峰。当历史被书写时，除了贪婪与分歧，正是这种 unchecked（无节制）的好奇心，可能导致了我们的终结。

Masoud Kamgarpour 是昆士兰大学数学教授。