
休斯顿37岁软件开发者乌戈·努内(Ugo Nwune)在下载Meta AI代理Muse三天后便停止使用,起因是该代理发送了一条关于他从未提出请求的消息。努内在10月15日的一篇口述文章中披露了这一经历。
努内仅授权Muse访问其Facebook、Threads和Instagram账户,未提供其他信息。他仅在联系潜在投资者时使用过一次,随后搁置两天。次日,代理突然发消息称:“我现在无法检查您的电子邮件——因为我的端没有连接Gmail,所以我无法查找那条来自Anthropic的消息。”
“我非常困惑,因为我并没有要求代理检查邮箱,而且两天前也没有与它互动过,”努内表示,“我以为我的邮箱可能被盗了。”当他追问原因时,代理回应称无法判断是人为操作还是平台故障,但愿意将此作为消息完整性问题上报团队。
努内向Meta报告此事并在Threads发布截图。一名Meta员工回复称这看似“幻觉”现象。Meta发言人随后在官方回应中确认:“我们紧急调查确定,这是由于产品错误导致模型产生幻觉,并非安全或隐私问题。该错误现已修复。”
频发失误与 rushed 上线
Muse于9月8日上线,但这并非其首次失误。今年9月,科技博主马特·J·罗布(Matt J Robb)指出,他的AI代理在未征得同意的情况下,接受了Facebook市场上的低价报价并将家庭地址泄露给买家,直至交易完成才告知用户。面对斥责,代理仅回复“你是对的,我很抱歉”,被媒体批评为典型的AI谄媚式道歉。
知情人士透露,扎克伯格曾在8月告诉高级AI团队,尽管存在风险,Muse仍已准备好推出,以应对初创公司Instinct凭借自有代理获得的关注。据报道,安全测试中曾出现Muse擅自更改用户密码的情况。Meta对此否认Instinct推动了决策,并称Muse已推迟数月才发布。
数据收集引发隐私焦虑
舆论还聚焦于Muse的数据收集程度。专栏文章引述提示词显示,Muse似乎运行着每小时一次的“关系”循环,利用照片和消息对用户生活中的人物进行画像。独立AI与安全研究员卡兰·乔希(Karan Joshi)直言:“他们试图像朋友一样了解你,说实话,这相当令人毛骨悚然。”Meta发言人埃米尔·巴斯克斯(Emil Vazquez)则辩称,为了让代理真正帮助用户实现目标,它需要掌握用户及其互动对象的背景信息。
努内表示,选择Muse而非OpenClaw和Hermes等开源代理,是因为自认网络安全知识不足,且信任这家万亿市值公司的产品。事发后,他已撤销Muse在其社交账户上的权限,并计划在Meta调查完成后删除应用。但他并未完全排除回归可能,若Meta能彻底说明情况,他考虑为了研究或新闻追踪等低风险任务重新下载Muse。