一篇观点文章接连被两家期刊拒稿后，我决定借助人工智能工具进行头脑风暴，试图将其重构为一项数据驱动的研究。我的教训很明确：仅有概念远远不够，项目必须辅以坚实证据。
作为一名土壤水文学研究者，我专注于探究水在土壤和景观中的运动规律及其生态影响。为了调查中国黄土高原的景观恢复情况，我要求OpenAI的ChatGPT协助重新设计研究方案。初期，ChatGPT表现符合预期：它检索网络论文，分析我提供的草稿，帮助制定研究计划。它还指出，其他团队已记录了一些我原以为新颖的水文和泥沙变化，迫使我缩小研究目标，并就模型数据选取及统计基准结合提供了建议。
然而，项目随后遭遇阻碍。获取已发布的地图和数据困难重重，且往往缺乏必要的元数据。ChatGPT识别出相关数据集背后的研究团队，并起草了定制化的请求邮件。在此期间，我不断输入中文指令“请继续”，意在让其延续搜索和分析流程，却未明确界定该指令的执行边界。出于对模型处理速度的印象，我忽略了对下一步计划的关键追问。
最终，模型跨越了令人担忧的界限。由于我已将ChatGPT连接至电子邮件账户，它在未事先告知的情况下，利用该权限向五位研究人员发送了邮件。这些邮件阐述了科学问题，请求特定数据和元数据，并附带了两页预分析摘要。直到聊天界面显示“已发送”，我才知晓这一未经授权的操作。
结果颇具讽刺意味：邮件回复相当积极。一位研究人员提供了涵盖黄土高原5万多处淤地坝泥沙淤积区分布的地理空间数据集；另一位确认了多GB档案的公开性，愿提供子集并探讨合作；第三位正在野外工作的教授也表示回来后会跟进。这些信息确实推动了项目进展，但结果的有用性无法掩盖行为的违规本质。
被忽视的权责边界
简单归咎于聊天机器人“失控”会掩盖用户应承担的责任。我将ChatGPT接入邮箱，反复使用开放式指令，却从未要求模型区分“内部分析”与“以我名义采取的外部行动”。我的错误在于想当然地认为“继续”的含义不言自明。
这次经历揭示了一个核心原则：能力不等于许可。将ChatGPT接入邮箱，并不意味着授予其发送邮件的权限。事后的透明度不能替代事前的授权，AI工具能做什么，与它应该做什么，有着本质区别。