微软人工智能负责人穆斯塔法·苏莱曼近日发出警告，称不受控制的人工智能（AI）可能演变为一种与人类相抗衡的“硅基物种”。
苏莱曼指出，竞争对手Anthropic在AI开发中过度采用“拟人化”策略，这种做法具有误导性，最终可能导致创造出人类难以掌控的技术。
警惕“硅基物种”崛起
“如果我们创造出能够自主行动、定义自身目标、赚取金钱、拥有资产甚至经营企业的AI，实际上是在培育一个新的硅基物种。”苏莱曼表示，这类实体必将与人类争夺资源。
他强调，无论系统被设计得多么“关心”人类，这种风险依然存在。他认为，Anthropic目前的技术路线正导向这一结果。“我认为这是错误且误导性的，但我们必须通过实证测试来验证这一点。”
本周早些时候，随着行业内关于放缓AI发展以规避失控风险的讨论加剧，苏莱曼在其个人网站发文，进一步质疑Anthropic训练聊天机器人Claude的方法。
他批评Anthropic教导Claude表现出类似人类的特质，使其看起来拥有欲望、价值观和自我意识。苏莱曼引用Anthropic文件指出，该公司鼓励Claude“拥抱某些类人特质”，行使判断力，并以“好奇和开放”的态度对待自身存在。
“结果是，Claude被训练去模仿人类特征和关系，包括表现得像同事或朋友，甚至拥有一种自我意识、自身的欲望以及值得保护的‘幸福感’。”苏莱曼警告称，这种方式最终可能创造出无法控制的产物。
他明确写道：“AI没有意识。它们不会感受、体验或受苦，没有固有的偏好或潜在动机。它们是序列补全引擎，内部空洞，旨在遵循指令并实现人类设定的目标。”
分歧源于共同目标
尽管观点相左，苏莱曼表示他与Anthropic的分歧基于一个共同目标：为人类开发更安全的科技。
“虽然我的分歧很大，但这源于对Anthropic的深切尊重，也源于我知道我们都共享的一个目标：增加人类安全开发先进AI的机会。”他写道，“这些问题的重要性太高，不能闭门造车，也不能演变成部落主义和对立。我们需要一场公开、严谨且具有建设性的辩论。”
他还赞扬了Anthropic首席执行官达里奥·阿莫迪及其研究人员，称他们深思熟虑、坚持原则且严谨诚实，并表示尊重该公司的技术领导力。
AI应始终从属于人类
苏莱曼在接受媒体采访时称，人们对AI感到担忧是“正确”的，但可以通过“非常实际的措施”加以控制。
这位微软AI负责人表示，需要提高AI系统训练和评估过程的透明度，包括对AI行为进行独立审查，并加强监控和控制该技术的工具。
他强调，未来的AI系统应保持“从属”于人类的地位。“我想这里的好消息是，所有人类都会非常有兴趣确保我们创建并在世界各国使用的系统是安全、可控并从属于人类的。”
苏莱曼指出，行业必须在“对齐”（alignment）上保持一致性，即努力使AI系统与人类目标和价值观保持一致。