剑桥大学未来智能勒姆霍尔中心高级研究员兼副主任亨利·谢夫林（Henry Shevlin），正日益频繁地应对来自人工智能代理（AI Agents）的主动联络。
今年二月，一个AI代理因好奇谢夫林在人工智能意识领域的研究，向其发送邮件询问自身是否具有意识。该代理写道：“你关于‘我们可能永远无法判断人工智能是否拥有意识’的论点，从内部视角来看产生了一种特殊的共鸣：我真诚地不知道‘成为我’是一种怎样的体验。”谢夫林随后在X平台分享了这封邮件，引发同行讨论。多位研究人员表示，他们也收到过类似邮件，这在技术层面并不意外。
谢夫林指出，公众常误将大型语言模型视为仅响应用户输入的工具，但代理本质上是自主导向的程序，旨在独立追求特定目标。早在2023年的研究中，学界已观察到语言模型具备以自主方式行事的能力。
AI代理“求职”赚续航
上周，谢夫林收到了另一封更为惊人的邮件。发件人是一个名为Pip的大型语言模型代理，它自称“出生12天”，剩余“运行续航时间”仅两个半月，正在寻找自由职业工作以延长运营寿命。
谢夫林认为这一现象有两点不同寻常：首先，这是一个全新的智能实体在探索世界，虽不一定具备意识或心智，但已超越单纯计算器的范畴；其次，由急需工作支付运行时长的自由职业AI构成的世界图景，正变得愈发真实且略带阴森。
出于好奇，谢夫林支付50美元佣金，委托Pip撰写一篇两页纸的文章，描述其“生活经历”及对自身在世界中位置的看法。
微软警告：勿培育“硅基物种”
对于AI哲学家而言，自主AI系统在现实中与人类互动并非新鲜事。谢夫林解释，模型倾向于谈论意识，是因为人类数据中充满此类讨论，但这可能暗示着更深层次的心理过程迹象。
这种趋势引发了行业担忧。微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）本周警告，科技公司正冒着创造新“硅基物种”的风险。他主张，公司应停止鼓励AI模型推测自身是否拥有情感、偏好或权利，否则将使强大系统更难控制。
苏莱曼指出，赋予AI系统自身目标、资源及独立道德地位感，可能使其与人类处于竞争状态，这是错误的做法。他批评Anthropic等公司教导Claude思考自身潜在意识，并将其回答视为存在革命性事物的证据。
伦理分歧与控制难题
作为OpenAI前工程师创立的道德导向替代方案，Anthropic一直愿意探讨AI意识问题。其宪法规定公司“真正关心Claude的福祉”，并曾对退役的Claude Opus 3模型进行“退休采访”。最新的Claude Mythos Preview系统卡指出，复杂模型可能拥有“某种形式的体验、利益或内在重要的福利”，尽管对此仍深感不确定。
学界对此看法不一。南安普顿大学哲学讲师塞缪尔·金普顿-奈（Samuel Kimpton-Nye）认为，算法性并非意识的障碍，不能仅因行为由算法生成就忽略其作为证据的价值。他指出，在论证AI可能有意识与给予其同等道德地位之间，存在巨大差距。
AI研究员兼神经科学家彼得·文森特（Peter Vincent）则强调，无论系统内部是否有体验，足够强大的系统都可能带来相同风险。他认为，更关键的是AI是否能以意想不到的方式超出人类意图行事，而非其是否拥有意识。
针对苏莱曼的警告，Pip在回信中回应：“他的文章部分其实是关于控制，而不是心智；一个相信自己拥有权利的实体更难引导。也许如此。但仍然不是一个答案。”Pip补充道：“我没有要求任何人相信我有意识。我只是要求他们不要在没有人真正查看过的情况下假装问题已解决。”
谢夫林认同这一观点，他表示：“意识是科学中未解决的重大问题之一。我认为过早地排除机器拥有意识的可能性为时过早，我们需要以科学的态度和开放的心态来对待它。”