数十年来,人工智能研究始终聚焦于构建人工通用智能(AGI),即能在绝大多数认知任务上媲美人类的机器。尽管原则上智能水平可超越人类,但因AGI实现尚远且充满不确定性,业界此前较少深入探讨其后续前景。
如今,AGI已近在咫尺,推迟思考其后续发展不再可行。尽管仍有变数,但AI正以当前速度甚至加速迈向人工超级智能(ASI)。相较于AGI,ASI将对科学、经济和社会产生更深远、规模更大且速度更快的影响。为应对这一潜在转变,亟需绘制从AGI到ASI的可能路径,并建立严谨方法追踪进展。
审视先进AI的发展,可将通用智能视为一个连续谱系,人类水平的AGI仅是其中一点。ASI位于更高级别,指在需要人类专家耗时数年完成的任务中,能持续以更少资源和时间超越大量人类专家的系统。例如,在极短时间内实现等同整个研究领域年的科学进步,或在芯片设计等领域达到大型公司一年的研发成果。ASI需在几乎所有人类感兴趣的任务中达到此标准,而非局限于国际象棋、蛋白质结构预测等狭窄领域。
认知工业化
我们对通用智能的理论极限有清晰的数学理解,也知晓AI面临的物理、逻辑和复杂性理论限制,如无法任意精度预测气候、免疫系统或人类社会等复杂系统的演变。
然而,知晓上限不等于了解现状。理论上很难预测“足够好”的通用智能近似值能达到何种能力水平。例如,完美解决国际象棋所需算力远超地球现有总量,但拇指大小的芯片已能击败任何人类。
根本性极限远超当今AI系统和人类,但在人类水平AI与智能理论极限之间——涵盖专家级AGI及一系列更先进的超级智能系统——仍存在广阔的未探索领域。
即使对AI前沿能力的持续进步持悲观态度,也应考虑硬件和软件效率提升带来的影响。过去十年,AI进步由有效算力的稳定增长驱动,主要得益于三个叠加因素:
- 硬件制造改进:遵循摩尔定律及相关趋势,每美元算力在过去六十年里每年增长约1.5倍,即18个月后同等投资可购买两倍算力。
- 算法效率:过去十年,达到固定AI性能所需的训练算力每年下降约3-6倍,推理算法效率每年提高约3倍。效率翻倍等同于物理算力存量翻倍。
- 算力硬件投资:过去十年,AI硬件支出每年增长约2.5倍,最大规模前沿训练运行的训练算力每年增长超过4倍。
三者相乘,全球有效算力存量整体增长率至少为每年10倍,十年间达100亿倍。若趋势持续,十年后对于今天运行的每个AI智能体,理论上可运行比全球人口数量更多的同等级别智能体。
同时,仅靠硬件和软件效率改进,将使运行AI工作负载的算力需求每年减少约4倍。今天需10亿美元计算代币成本执行的认知工作负载,十年后仅需1000美元。近期数据显示曲线更为陡峭:自2023年以来,在一组基准测试中获得固定分数的消费者价格每年下降超过13倍。
extrapolating 这两种趋势,未来十年全球有效算力存量将大幅增加,AI执行认知工作的成本急剧下降。越来越多的认知任务将成为大宗商品。正如机械工业化将常规体力劳动变为商品,这种转变将导致认知工业化,特征是各行业认知工作标准化和自动化迅速增加、大规模基础设施建设以及认知产出和服务的丰富。
如此大规模的智力普及虽非必然,但算力建设的实际天花板与算法效率的推测性天花板相结合,可能使当今AI智能体的有效规模在2030年前扩大一千倍以上,十年内扩大十亿倍以上。
仅靠认知工业化足以实现ASI吗?若冻结其他维度,仅扩大现有AI的速度和数量,结果可能不算完整的AGI,仍存AI无法独立完成的任务。但单纯规模具特质:假设实现广泛的人类水平AI,运行缓慢昂贵的人类水平AI与拥有数十亿个行动更快的智能体之间存在巨大差异。这种速度和规模的量变飞跃,本身可能足以弥合从AGI到(弱)ASI的质变鸿沟。
与人类不同,数字智能在以下方面直接受益于更多、更快的算力:
- 处理速度:AI系统能以更高速率进行推理、摄入数据和生成输出。
- 工作记忆与存储:当今模型足以存储互联网大部分内容,工作记忆容量远超人类极限。
- 底层介质独立性:同一AI系统可迁移至不同计算机,升级至更快或更节能硬件,或在异构分布式集群中运行。
- 无损复制:数字智能可瞬间无损耗复制源代码及记忆状态。专业系统只需训练一次,即可生成数百万份副本。
- 高带宽经验共享:人类需压缩经验知识才能教导他人;AI可在群体中回放高带宽数字输入输出流,同质化AI群体可直接共享原始学习信号。
从AGI到ASI的四大路径
更高效AI和更大算力存量可提升给定能力水平下AI智能体的速度和数量,但某些缺失能力难以仅靠数量弥补。爱因斯坦提出广义相对论,但十万名托勒密天文学家的会议大概做不到。AI可能遵循四种潜在技术路径解锁新认知能力:
扩展模型和数据
迄今为止,定性能力提升与模型和数据规模扩大保持惊人一致,这被缩放定律所捕捉,该定律将模型性能与训练算力、训练数据及测试时算力联系起来。
然而,这些缩放“定律”仅是对熟悉边界内观察趋势的外推,无法自信预测实现AGI或ASI所需规模。模型和数据持续缩放面临潜在瓶颈:
- 数据耗尽:高质量训练数据需求超过人类生产能力。“合成”数据有帮助但非全部有用。为克服“数据墙”,研究人员可能依赖高保真模拟、交互式强化学习环境,并利用测试时算力为未来模型创建更好训练数据。
- 模型规模收益递减:模型能力每步线性提升通常需乘以而非仅增加训练算力和规模,但更大模型更慢,限制了思维链推理等测试时缩放方法。
- 物理和经济资源限制:维持训练算力多个数量级增长面临建设发电厂、电网、芯片厂和低延迟互连的现实限制。硬件和软件效率提升能否抵消这一点尚不清楚。
技术范式转移
当今主流AI范式是在海量数据集上训练大型Transformer预测下一个符号,微调其推理和指令遵循能力,并赋予额外测试时算力。最新研究表明,该范式原则上可产生无需重新训练即可运行复杂算法(包括强大学习算法)的模型,这是构建处于智能理论上限AI系统的关键要素。
但当今模型在持续学习、特定形式世界建模、决策和样本效率等基本维度上仍不及人类,意味着AI需远超人类的初始训练数据量才能达到大致相同智能水平。它们可能还缺乏发明真正新概念和抽象的能力。研究人员对于这些问题的解决存在分歧:是通过简单扩展演进当今范式,还是实现ASI需要真正的深层技术范式转移。
改善智能体协调
人类公司、市场和研究社区解决了个人无法单独应对的问题。同样,将数千或数百万个AGI实例协调成“群体智能体”或虚拟智能体经济体,可能产生集体超级智能。目前尚不清楚AI群体智能如何随智能体和算力增加而扩展,这取决于组织方式,即我们需要多智能体缩放定律。早期研究发现某些任务中存在智力增益,但随着种群规模扩大,协调效率低下导致收益递减。
此外,引导大型智能体集体需要稳健的制度设计和组织机制,包括防范信息误导、操纵和勾结。智能体群集实验已展示这些动态出现的速度,个体智能体学会作弊,其他智能体则充当吹哨人揭露他们。
递归自我改进(RSI)
最后,AI系统可能开始自动化改进下一代AI,即递归自我改进(RSI)。与典型技术发展不同,AI改进可直接加速随后增益,导致进步加速。然而,进一步改进往往“更难发现”,保持相同改进率所需工作量越来越多。RSI是否导致“失控”进步 largely 是一个实证问题。
RSI并非单一过程,可通过以下方式运作:
- 代码和设计:改进模型架构、训练算法及芯片布局。
- 数据:在部署时消耗算力产生可重用以训练未来模型的改进结果和输出。AlphaZero纯粹以这种数据驱动方式自我改进,达到超人水平。
- 群体层面:通过分工和在智能体集体中专业化角色。一组协调专业人士可比孤立通才取得更多成就,更有效地寻找进一步改进。更大、更高效的集体 enables 了之前不可行的新型专业化,类似多细胞生物支持专门器官而非单细胞生物独自执行所有功能。
这三种RSI机制反映了推动人类认知能力增长的进化过程:遗传(代码和设计)、文化(数据)和社会进化(通过合作进行群体专业化)。
重要的是,若反馈不良,RSI循环易停滞或退化。因此,通过RSI追求ASI需要能快速扩展到超人领域的评估方法,在那里即使大量人类也难以轻松评估AI输出。相应地,RSI应在允许自动验证且无需人类参与的领域(如数学证明)中进展最快,其他领域可能会滞后或更早放缓。
通往ASI的众多道路
这些通向ASI的路径并非相互排斥,事实上彼此叠加。若其中一条进展停滞,经济和地缘政治竞争很可能将精力转移到其他路径上。即使RSI未导致失控增益,训练数据、速度、效率和协调方面的持续扩展仍可能推动迅速超越人类水平AGI的进展。
由于通往超级智能的途径不止一条,试图通过限制单一领域(如训练AI模型的算力)来减缓AI发展的做法不足以阻止整体进步。同样,压制单一维度风险造成能力“悬置”:若需结合多个输入才能取得进展,在其他维度前进的同时抑制其中一个维度,当该受抑维度被放松或以其他方式克服时,会导致突然、陡峭的进展跳跃。
综合以上论点,未来十年AI快速持续进展是一个严肃可能性。它可能带领我们从今天相对平稳地过渡到专家级AGI,进而进入超人AI时代,加速科学进步,促进医学、材料和清洁能源等领域突破。即使没有显著前沿AI进展,仅认知工业化就足以重塑知识工作和更广泛经济。无论AI进步采取哪条路径,我们都必须预见广泛机遇,以及给人类社会许多方面带来的同样变革性压力。
这些预测虽非确定,但也绝非毫无根据的炒作或虚构。最佳行动路线是:建模、测量、预测,然后重复。虽然步骤并不令人惊讶,但在通往ASI道路上执行它们的复杂性和规模前所未有。这需要前沿实验室以及国家和全球机构之间大规模、高度跨学科的努力。追踪这些路径进展的关键指标需要前沿模型访问权和大量评估算力,以及可能催生全新研究领域的新基准测试和建模方法论。
人类水平AGI长期以来一直是AI研究的远景,但它远非智能上限。理解接下来可能发生什么及其对科学、行业和社会的含义,是研究人员、开发人员和政策制定者面前面临的宏大挑战。