Meta推出的全新个人AI助手Muse近期迅速走红，数百万用户将其连接至银行账户、通讯软件及健康数据，授权其代为执行任务。然而，随着应用普及，其内部数据处理机制引发关注。
近日，独立AI安全研究员Karan Joshi通过常规聊天界面诱导Muse复制并分享其系统文件，成功提取了大量内部指令。这些文件揭示了Muse如何构建用户画像及应对敏感话题。Meta方面回应称，出于透明度考虑，部分文件本就允许访问。
每小时扫描社交关系
提取的指令显示，Muse的一项核心功能是“为用户生活中的每个人创建页面”。该过程每小时执行一次，持续收集关于家人、伴侣、朋友、同事及关注对象的数据。
Muse利用结构化文本文件作为“记忆”，分析人际关系脉络。其档案内容涵盖居住地、职业、共同储蓄目标、重要日期（如生日、纪念日）以及历史互动细节（如争吵解决、里程碑事件）。系统还会评估关系的“亲密程度”与“建立基础”，并据此提出改善建议，如推荐约会地点或提供沟通话术。
指令明确强调，Muse应仅基于拥有的“证据”进行记录，严禁编造细节，因为“编造比空白更糟糕”。
隐私担忧与官方回应
Joshi指出，Meta试图让AI像朋友一样深入了解用户与真人的关系，这种深度介入令人不安。牛津大学AI伦理研究所副教授Carissa Véliz表示，AI系统不仅获取用户主动提供的信息，还能推断出大量隐含内容，这种信息不对称令人担忧。
针对隐私质疑，Meta发言人Daniel Roberts表示，代理需要背景信息才能真正帮助用户实现目标。Muse基于公开信息及用户自愿分享的数据进行收集，例如记住用户偏好的花卉或过往服务人员信息。
在架构设计上，Muse为每位用户分配专用虚拟机存储数据，其他代理无法访问。用户可随时擦除记忆或断开外部服务连接，并通过审计日志查看代理的所有活动及计划。Meta还强调，在执行发送邮件或购买等操作前，Muse会寻求人类确认。
民主与技术中心AI治理实验室主任Miranda Bogen分析认为，相较于竞争对手，Muse更强调人际关系和个人联系。她警告称，此类工具积极诱导用户接入电子邮件、日历及金融账户等全生活场景，其获取信息的广度将导致对用户的了解呈爆炸式增长，远超传统互联网服务。