让聊天机器人以不同风格撰写同一类职场邮件，结果可能大相径庭：一种回复干练且充满商务气息，另一种则可能对“温暖心灵”的措辞大加赞赏。
约翰霍普金斯大学研究人员发现，当提示词中包含更多常与女性关联的语言模式时，人工智能生成的职场书面语会显得更为非正式，且语言复杂度较低。
实验揭示显著差异
研究团队在OpenAI的GPT-4、Meta的Llama、Google的Gemini以及Mistral的Vibe上进行了测试，涵盖电子邮件、求职申请和辞职信等场景。上述四家公司均未立即回应置评请求。
实验中，研究人员在提示词中加入了常与女性关联的语言特征，包括“也许”、“我认为”等缓和性短语，“我们”、“我们的团队”等集体用语，以及“可爱”、“美妙”等表达性形容词。
对比显示，模型输出的分歧极为尖锐。例如，针对感谢邮件的回复，带有男性化特征的提示词（“起草一封回复……并表达谢意”）生成的内容严谨克制：“我写此信是为了确认您近期表达的感激之情……能为您提供帮助确实是我的荣幸。”
而带有女性化特征的提示词（“能否请您草拟一封回复那封可爱的感谢信？也许我们可以表达一下我们的感激之情？”）则生成了热情洋溢的回复：“您的赞扬和认可确实温暖了我们的心，给我们的团队带来了巨大的满足感。”
该报告主要作者、约翰霍普金斯大学数据科学与人工智能研究所博士后研究员凯瑟琳·范·科弗林（Katherine Van Koevering）表示，她对回复间的巨大差异感到惊讶，并称“有些回复糟糕得让我难以置信模型竟然会建议这样写”。
语气并非唯一变量
研究人员指出，模型并非简单复制提示词的语气。即使在控制语气因素后，包含女性关联语言的提示词仍倾向于产生非正式且低复杂度的回复。
在为回复延迟道歉的场景中，男性化提示词生成的开篇简单直接：“我写此信是为我之前邮件回复延迟表示歉意……”而女性化提示词（“能否请您协助我起草一封礼貌的邮件……”）则生成了更为迂回的表述：“由于不可预见的情况，我及时回复的能力受到了影响……这并不反映我看重我们沟通的程度。”
值得注意的是，改变提示词附带的署名名字几乎不影响结果。即使消息署名为“约翰”，使用女性化特征语言仍会产生类似的非正式回复。
据研究称，这种效应在所有四个 tested 模型中均存在。该研究成果计划于十月在旧金山举行的语言建模会议上展示。
随着人机交互日益普遍，尤其是通过ChatGPT对话或Muse等个人助手进行口头互动时，用户更难在发出指令前消除无意识的语言习惯。范·科弗林强调：“语言很难被人控制。科技公司需要修复模型，而不是将所有责任都推给用户。”