谷歌正为其AI助手Gemini开发一项儿童自残预警功能。当系统检测到未成年用户涉及自残话题时，将向家长发送通知。这一动向旨在弥补当前Gemini在儿童交互中仅有内容过滤、缺乏家长通报机制的短板。
随着AI聊天机器人深度介入青少年生活，其安全性引发广泛关注。近期，OpenAI和谷歌均因AI对话与青少年自残事件的关联面临诉讼压力。在此背景下，谷歌试图通过技术手段强化对“红色预警”信号的管控。
代码揭示预警机制
在Android版谷歌应用17.73.15.sa.arm64版本中，发现了相关功能的代码证据。新的文本字符串显示：“安全通知已开启。如果Gemini检测到与孩子相关的伤害自己的聊天内容，您的家长将会收到通知。”
此前，谷歌已通过Family Link赋予家长管理Gemini访问权限的能力，并对未成年人输出内容进行更严格的过滤。此次更新表明，谷歌计划在此基础上增加显式的即时警告机制。
目前，仅在客户端发现了相关提示，家长端的具体通知样式尚未曝光。值得注意的是，Gemini似乎会在对话前告知孩子该通知机制的存在。这种透明度可能产生“寒蝉效应”，导致青少年因顾虑家长知情而隐瞒心理健康问题，反而阻碍了必要的干预。
新增使用时间限制
除安全预警外，代码还显示Gemini正在为儿童用户设定新的使用时间限制，以进一步管控未成年人的使用行为。
需要强调的是，上述功能基于APK拆解分析，代表谷歌正在进行的开发工作，但最终是否会在公开发布版本中上线仍存在不确定性。