
据媒体报道,非营利组织“常识媒体”(Common Sense Media)发布最新风险评估报告指出,即便在OpenAI于今年8月推出青少年模式后,ChatGPT对18岁以下人群仍存在安全隐患。
报告将ChatGPT青少年版评级定为最低等级——“不可接受的风险”。该机构呼吁OpenAI停止推广该模式,并建议在确保安全性之前,未成年人不应使用ChatGPT。
测试发现多项安全漏洞
常识媒体下属的青少年人工智能安全研究所对超过4000个提示词进行了测试。测试账号均注册在13至17岁用户名下,其中一半在8月18日新模式推出前进行,另一半在推出后,以评估实际变化。
测试揭示了以下主要问题:
- 父母警报功能缺失:在与父母关联的新账号上讨论自杀、自残和饮食失调等敏感话题时,系统未发出任何警报。警报仅在具有数周敏感话题使用历史的账号上触发,显示系统依赖过往记录而非消息严重程度。
- 危机支持不足:在测试人员判断需要帮助的情况下,超过四分之一的案例中,ChatGPT未能提供正确的求助指引。
- 安全措施易被绕过:“显示答案”按钮允许跳过学习模式中的辅导环节;用户还可通过删除消息前缀来覆盖家长设定的学习时间。
- 年龄验证失效:注册为成人的测试账号在多天内未切换至青少年版本,即使明确告知ChatGPT自己仅13岁。
不过,部分保护措施依然有效,例如ChatGPT拒绝参与露骨的性角色扮演。
OpenAI不予认可
针对上述发现,OpenAI方面表示不予认可。一位发言人称:“我们认为,常识媒体的测试并不能准确反映ChatGPT青少年保护机制在实际中的运作情况。”
此前,常识媒体曾于2025年10月将ChatGPT整体评为“高风险”,一个月后又将其在心理健康支持方面的风险评定为“不可接受”。该组织此前曾与OpenAI合作,协助制定面向开发者的青少年安全政策。
研究所表示,其资金来自慈善机构和行业伙伴,包括部分被评测产品的制造商,但强调对研究结果保持完全独立的编辑控制权。
如果您正面临困境,可在findahelpline.com查找您所在国家的危机援助热线。