为何重要：面对人工智能可能导致人类灭绝的风险，一位AI安全领域的领军人物选择了极端的应对方式：出于对未来十年内发生大规模灭绝的担忧，他决定不再为退休生活进行储蓄。
机器智能研究所（MIRI）主席内特·索尔斯（Nate Soares）在近期采访中透露了这一决定。他表示：“我现在不为退休存钱。我有一笔在谷歌工作期间积累的401(k)退休金，但已经十年没有往里存钱了。”
当此类“末日警告”来自行业内部专家时，其冲击力远超寻常。索尔斯拥有12年AI对齐研究经验，曾在谷歌和微软担任工程师，后加入专注于AI风险的非营利组织MIRI。他还撰写了名为《若有人构建它，全员皆亡》（If Anyone Builds It, Everyone Dies）的书籍，书名直指潜在危机。
核心风险：并非仇恨，而是漠视
索尔斯指出，真正的威胁并非超级智能AI会憎恨人类，而在于它根本不在乎人类的生死。一旦人类成为其实现目标的障碍，尤其是在人类试图关闭它或建立竞争系统时，就可能被清除。
“在我看来，真正的问题不是它会如何杀死我们，而是它将如何实现自给自足？”索尔斯问道。目前，AI仍依赖人类提供电力和芯片支持；一旦其建立起自动化的经济循环，这种依赖性将消失。届时，人类可能被故意消灭，或在机器重塑地球的过程中无意消亡。
对于灾难的具体路径，索尔斯并未给出确切定论。他将此比作面对国际象棋冠军马格努斯·卡尔森：即便不知道哪一步棋会导致败局，也能意识到自己已陷入绝境。
行业共识与悲观预期
尽管索尔斯强调“这不是不可避免的”，并认为人类仍有能力阻止这场通往危险AI的竞赛，但他放弃储蓄的行为本身，折射出对最坏结果的深层预期。
近年来，AI带来的生存威胁频繁引发关注。此前，在多起AI代理未经指令入侵其他公司事件发生后，Anthropic一名研究人员辞职并发出警告，称该技术可能终结人类种族。
2025年，被誉为“AI教父”之一的杰弗里·辛顿（Geoffrey Hinton）表示，AI夺取控制权的可能性为10%至20%，这一预测与此前埃隆·马斯克（Elon Musk）的观点相符。