五年前,Anthropic还只是硅谷一家由OpenAI前员工创立的初创公司。如今,这家以安全为首要理念、开发出Claude聊天机器人的企业,已在华尔街完成首日交易,市值高达1.75万亿美元。

这一里程碑标志着Anthropic爆发式增长期的终结,也将其推向了矛盾的风口浪尖:一方面,它是人工智能潜在灾难最强烈的警告者;另一方面,它正面临来自股东的压力,要求从这项被高层描述为“存在性威胁”的技术中榨取利润。

安全与速度的核心张力

Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)坦言,安全与AI进步之间的推拉关系是“公司内部的核心张力”。他将AI的快速迭代比作驾驶速度的激增:从每小时60英里突然提升至200英里。他表示,公司的策略是主动限速,“只开到每小时90英里”,利用盈余资源确保模型构建的安全性。

然而,内部警报并未平息。今年9月,研究员雅各布·科克森(Jacob Coxon)辞职并公开批评Anthropic和OpenAI的安全实践,称两家公司都在“拿我们的生命赌博”,警告本十年末AI可能威胁人类生命。

尽管达里奥·阿莫迪随后发文呼吁行业放缓节奏并嵌入独立评估,但非营利组织Model Evaluation and Threat Research的最新报告显示,得益于AI辅助开发,Anthropic的系统开发速度比一年前快了两倍。达里奥在纳斯达克开盘时承认:“最艰难的安全工作还在前方。”

公共福利架构下的财富集中

作为一家公共福利公司,Anthropic在法律上有义务平衡股东利益与公共利益。这种架构在大型上市公司中极为罕见,使其进入了一个未开发的领域。

尽管公司宣称迈向“AI利益由所有人共享”的未来,但IPO无疑造成了极端财富的集中。据福布斯数据,周四下午,达里奥·阿莫迪的净资产已达227亿美元,其妹、公司总裁丹妮拉·阿莫迪的净资产为228亿美元。而在IPO前,两人的净资产仅为140多亿美元。

联合创始人承诺将80%的股权捐赠给慈善事业,并设立了股权捐赠匹配计划。丹妮拉·阿莫迪表示,公共福利公司的概念在创立之初便引起共鸣,旨在将“建立对人类有益的事物”融入公司结构之中。

警示风险还是营销手段?

在提交给美国证券交易委员会的文件中,Anthropic用了罕见的93页篇幅阐述风险因素,包括先进AI系统可能带来的“灾难性或存在性风险”。

这种透明度引发了争议。批评者质疑,公司在强调反乌托邦式潜力的同时,是否意在将自己定位为合乎逻辑的解决方案。今年9月,《周六夜现场》的小品讽刺了这一矛盾,演员饰演达里奥·阿莫迪说道:“我们不赞成我们正在做的事情。”

这句台词似乎引起了广泛共鸣,甚至出现在周四Anthropic旧金山总部外的抗议标语上:“我敦促你敦促我停止。”