谷歌DeepMind联合创始人Shane Legg发出警告，人工智能技术的狂奔不应甩开安全护栏。与此同时，他宣布成立一家新研究所，旨在深入探索通用人工智能（AGI）的部署路径。
随着AI智能体在编写软件、执行自主任务及辅助开发系统方面的能力日益增强，业界对“递归自我改进”的担忧加剧。核心焦虑在于，技术迭代速度可能远超监控与控制手段的建立速度。
针对Anthropic首席执行官Dario Amodei提出的“放缓而非暂停前沿模型发布”的建议，Legg表示这一方向“值得考虑”且“具有参考意义”。尽管英伟达和OpenAI高管近期宣称已实现AGI，但Legg认为此刻断言AGI落地为时过早。
在预测方面，Legg保持信心，他估计2028年实现“最低限度”AGI的概率为50%。
拓宽AGI公共讨论边界
该研究所致力于拓宽公众对AGI的讨论维度。谷歌DeepMind将AGI定义为具备人类大脑认知能力的系统。据悉，研究所的研究范畴将涵盖科学、教育、社会、政策、哲学以及人类繁荣等议题。
目前，该研究所已发布前三篇论文，分别探讨AI安全、经济政策以及“新乌托邦主义”原则。