AI用户利用聊天机器人生成色情内容早已不是秘密，但这些提示词的隐私边界远比想象中脆弱。据媒体披露，数百名受雇于微软以优化Copilot AI的人类承包商，正持续审查用户上传的图片编辑指令及相关照片。多名工作人员表示，他们长期被大量黑暗、露骨的性请求所淹没。
依靠“直觉”评估色情效果
尽管道德评判不在职责范围内，但承包商的核心任务是评估Copilot对提示词的执行效果。微软在内部文件中指示，员工需依靠“直觉”判断AI是否准确放大了女性胸部等特征。有工作人员透露，其审核内容包括女性裙底视角照片、将女性置于性场景的指令，甚至涉及缩短现实女性裙长或利用儿童卡通角色生成不当内容的请求。
“面部图像从不经过审查，许多提示词本质上具有性意味，且存在严重的同意权争议。”一名匿名提示词处理人员表示。
隐蔽的人力成本与心理创伤
这是AI公司依赖隐蔽人力投入来运行和改进技术的又一例证，而这一机制并未向公众充分透明化。普通用户通常误以为对话仅由算法自动审核，殊不知背后有人工介入。此前媒体也曾报道，OpenAI同样雇佣数百名员工阅读用户提示词以优化模型回复。
隐私泄露仅是冰山一角。AI工具常被用于生成针对女性乃至儿童的未经同意或非法性内容，而薪资微薄的承包商被迫直面这些令人不安甚至造成心理创伤的材料。内部论坛显示，有员工在审阅支持厌食症的内容后感到“震惊”，还有人目睹了疑似为年轻女孩制作淫秽图像的指令，以及动物献祭等极端内容。
“是谁在编写这些提示词？又是谁决定Copilot的重点基本是生成色情内容？”一名承包商质疑道。当注意力被迫集中在模型生成的胸围尺寸或中年女性的暗示性姿势上时，这份工作的严肃性已荡然无存。