在撰写博客、研究报告、备忘录、深度邮件或小说等旨在传达观点、分析及实质性思考的内容时，几乎不应使用人工智能生成文本。即便提供了详尽的背景信息并对AI产出进行了编辑，这一立场依然成立。
持有此观点主要基于三点理由：首先，写作过程本身就是思维过程的核心组成部分；其次，AI生成的文字往往含糊其辞，且潜藏难以察觉的错误；最后，在未标明的情况下使用AI写作，既是不礼貌的，也具有误导性。
需要澄清的是，这并非反AI立场。在转录音频、数据分析、信息检索、头脑风暴以及提供草稿反馈等环节，合理使用AI不仅可行且高效。此外，若经人工审慎接受或拒绝，利用AI进行行级编辑、校对或重写以提升清晰度，也是可接受的。反对的焦点仅在于让AI直接撰写文本主体。
尽管AI写作具备省力、快速等优势，但其缺点显著，足以抵消这些便利。以下论述基于当前及短期内的AI模型能力，未来若出现能承担端到端思考任务的更高级模型，情况或许会有所不同。
写作即是思维的具象化
研究的核心目的在于形成准确信念并有效传达，而写作是实现这一目标的最佳途径之一。保罗·格雷厄姆曾指出，写作是对认知的严峻考验，许多想法正是在将思想转化为文字的过程中涌现的。
克拉拉·科利尔在访谈中进一步阐释，在撰写实质性内容时，从大纲到成文的每个阶段都伴随着思考与观点的修正。若直接将大纲输入大语言模型（LLM），模型无法识别大纲本身的逻辑缺陷，从而错失了通过调整过渡句来发现观点并列错误的机会。
帕特里克·麦肯齐对此表示认同，他认为强迫自己将论点构建为句子和段落，能暴露论证漏洞和研究不足。写作迫使作者将所有证据、考量及逻辑关系统筹于脑海中，而依赖AI写作则容易让人逃避这种必要的深度思考。
AI文本的隐蔽缺陷：含糊与谬误
文本的清晰度与准确性源于对措辞的无数微小决策。以AI芯片走私话题为例，要求AI生成一段介绍，其输出虽看似合理，实则充满微妙错误：
- 表述空洞：如“出口管制强度取决于执行力度”，属显而易见之废话，缺乏信息增量。
- 事实偏差：称AI芯片“紧凑”易走私，忽略了实际走私多涉及重新标记服务器而非隐藏小型芯片的事实。
- 逻辑模糊：关于“全球供应链”使走私更容易的论述指代不明，未能准确反映走私者利用第三方国家采购的真实路径。
- 数据误导：对走私规模的估计区间过大且未注明年份与芯片定义，低估值极具误导性。
- 无效结论：如“威胁掏空美国AI政策支柱”等表述，属于缺乏实质信息的“鼓掌灯”式空话。
埃里克·施维茨格贝尔指出，人类专家的用词选择反映了其潜意识里的敏感性，这是AI难以模仿的。阅读并认可AI文本，与主动生成文本之间存在巨大的认知差异。被动接受近似正确的词语，会削弱对用词的主动审视。更甚者，AI常以极具说服力的方式呈现模糊或错误信息，若读者缺乏相关领域知识，极难察觉其中的逻辑陷阱。
隐性契约的违背：不礼貌与误导
作者与读者之间存在一种隐性契约：读者付出注意力，作者回报以经过深思熟虑的观点。当文本由AI生成且未标明时，这种契约被打破。读者期望看到的是作者的个人思考与信念，而非机器拼凑的产物。
克拉拉·科利尔认为，直接使用LLM生成的文本而未加披露，是对读者时间的浪费。若读者知晓内容为AI生成，信任度会理性降低。因此，推广或发送未标明的AI草稿，类似于发送草率的手稿却隐瞒其粗糙本质，既失礼又具误导性。
虽然可以通过明确标记“AI生成”来解决伦理问题，但这通常会导致读者流失，因为人们倾向于忽略此类内容。即便仅用于个人阅读，放弃人工写作也意味着失去了深化思维的机会。
常见疑问辨析
关于明确标记：若在文中明确标注某部分信息来自AI（如“Claude告诉我...”），在非关键验证场景下是可接受的。但整篇实质性文章若全由AI生成并标记，既质量堪忧也无人问津。
关于非母语写作：对于英语非母语者，建议使用AI翻译母语草稿，而非直接从要点生成英文。翻译更能保持原意的清晰与精确，且最好予以披露。
关于高风险场景：在政策备忘录等高价值场景中，AI看似加速了写作，实则以牺牲质量为代价。在信息过载的当下，稀缺的并非报告数量，而是准确、深入的分析与思考，因此不应在边际上牺牲质量以求速度。