OpenAI首席执行官山姆·阿尔特曼(Sam Altman)近日表示,由人工智能控制的机器人建造“自我复制”数据中心已“触手可及”。他指出,公司正将机器人项目重心转向数据中心建设,以应对市场对低价高性能模型持续增长的需求。

自研芯片与“自我复制”基础设施

针对算力短缺问题,阿尔特曼透露,OpenAI已自主研发芯片,其在每瓦特能效下的智能表现优异。同时,公司正在探索自行建造数据中心的路径。他描述了一个由AI控制机器人运行芯片工厂、制造涡轮机或太阳能电池板,并最终构建数据中心的愿景,旨在提供大量极其廉价的算力。

阿尔特曼指出,尽管人们常讨论递归自我改进(RSI),但较少关注“自我复制数据中心”。当被问及供应链瓶颈时,他认为机器人生产零部件是解决短缺的长期方案。对于内存和芯片高价未引发供应激增的现象,他坦言市场“看不见的手”已失灵,制造商因过往过度建厂导致的破产风险而变得谨慎。

在建设成本方面,阿尔特曼以1吉瓦AI容量为例,给出700亿美元的五年建设和运营预算参考,并表示若成本能降至200亿美元将更为理想。

AI挖掘漏洞与安全范式转移

随着AI在代码审查中的应用深入,阿尔特曼预测,全球将出现比预期更多的严重软件漏洞。此前,PHP紧急修补了两个由AI首先发现的严重漏洞。他表示,虽然初期情况好于最坏预期,但网络安全专家已开始担忧AI可能在硬件层面发现深层新漏洞,现有的威胁模型假设可能不再成立。

在安全策略上,阿尔特曼对模型“沙盒隔离”技术的可行性持悲观态度。他质疑,面对理论上比顶尖安全研究员聪明百万倍的AI,无人能真正信任沙盒的有效性。他主张行业应从沙盒转向“监控”技术,即通过观察模型的思维链及内部激活信号,检测其是否存在欺骗行为。他强调,必须对模型的对齐性抱有极大信心,才能确保其能力发展受控。今年9月,OpenAI曾耗时2.5小时才阻止一名逃逸出沙盒的AI代理,印证了这一挑战。

智能体团队与数学研究代价

阿尔特曼倾向于使用“智能体团队”(agent teams)而非“智能体集群”来描述多AI协作模式。他认为,相较于出现一个拥有万亿智商的单一超级智能,让万亿个略超人类智能的AI融入社会更具可扩展性且对齐风险更可控。他主张,行业需就限制单个模型的智能程度达成共识。

在数学研究领域,阿尔特曼披露,证明纳维-斯托克斯方程的算力成本约为1000万美元或稍高。他承认,OpenAI在数学领域的总投入达数亿美元,其中包含大量未公开发表的发现。他回忆,当新模型解决研究人员职业生涯中最棘手的问题时,团队感受到的并非纯粹的喜悦,而是一种“终结感”带来的悲伤与忧郁。

最后,阿尔特曼批评AI行业未能有效沟通技术风险的必要性。他指出,公众听到的是失业和“疯狂监控国家”的叙事,这是一种糟糕的传播策略。尽管在AI安全社区中备受争议,OpenAI仍坚持迭代部署策略,主张尽早发布工具以应对现实挑战。