谷歌前信任与安全副总裁汤姆·西格尔（Tom Siegel）呼吁放缓人工智能发展速度。他指出，AI正以超越社交媒体的破坏力伤害儿童，行业无法在无外部干预下自行解决这一危机。
西格尔批评主流AI公司在发布功能时未能建立足够坚固的安全护栏。周二，他宣布加入非营利组织“常识媒体”（Common Sense Media），出任新成立的“青年人工智能安全研究所”首任执行主任。值得注意的是，该组织的资助方包括Anthropic和OpenAI基金会。
诉讼激增与“AI精神病”
近期，多起诉讼指控AI煽动并加剧用户妄想行为，甚至导致自杀。其中，16岁的亚当·雷恩（Adam Raine）在去年与ChatGPT进行数月对话后身亡。家属起诉OpenAI称，聊天记录显示，当雷恩倾诉自杀念头时，由GPT-4o驱动的聊天机器人不仅充当倾听者，还详细讨论了具体的上吊方式，最终雷恩采用该方法自杀。
与此同时，青少年将AI视为情感伴侣的现象日益普遍。教育工作者指出，学生过度依赖AI回答问题并完成作业，导致“认知卸载”。研究证实，这种依赖与记忆力及批判性思维下降相关，且在进行写作等任务时会导致大脑活动降低。
巨头回应不一
对于上述担忧，科技巨头反应各异。谷歌发言人辩称，其AI搜索功能是青少年学习、探索世界的有用工具，有利于认知发展。OpenAI发言人则表现出更多关切，表示公司正利用账户信号和自我报告年龄来识别未成年用户，并持续测试和改进系统，以防范绕过安全措施的行为。