【文章被判定“AI所写”：资深代笔作家的遭遇与检测工具的盲区】代笔作家莎莉·麦格劳（Sally McGraw）原本希望拿下一份工作，为一位潜在客户开发书籍提… · @ChineseAMER · TwKit

@ChineseAMER

【文章被判定“AI所写”：资深代笔作家的遭遇与检测工具的盲区】代笔作家莎莉·麦格劳（Sally McGraw）原本希望拿下一份工作，为一位潜在客户开发书籍提案。她按要求提交了写作样本，随后收到客户的邮件：多个人工智能检测工具把她的作品标记为机器生成。“我当时惊呆了，因为我根本没用AI生成文字，全都是我自己写的。”麦格劳说。一段由人亲手写出的文字，为什么会被机器认作机器的产物？ 麦格劳从事专业非虚构写作已超过20年。作品被一句“AI所写”打发掉，让她感到愤怒。她这样形容读到邮件那一刻的反应：“你见过卡通人物从下巴一路红到头顶吗？我感觉自己的耳朵开始发烫。” 她向客户保证，提案是她亲笔所写。不过，她认为这份工作“微不足道”，没有继续追究。客户在给NPR的邮件中确认，她确实对麦格劳的作品做过AI筛查，但表示检测结果并不是她改选其他作家的决定因素，真正起作用的是经验和匹配度。麦格劳说，写作样本她拿到了报酬，但她相信，是检测结果让她失去了撰写完整书籍提案的机会。“大家都知道，这些筛查工具并不是百分之百准确。”她说。 检测工具进入编辑部，起因是AI生成内容的激增。面对越积越多的投稿，一些编辑开始借助这类工具筛选。科幻杂志Clarkesworld的出版人兼编辑尼尔·克拉克（Neil Clarke）说，大量AI投稿给编辑团队带来压力。2021年，该杂志每月收到约1100份投稿；到2月，ChatGPT、Claude和Gemini等AI工具开始广泛可用后，投稿量翻了一倍，克拉克一度被迫暂时关闭投稿通道。 据克拉克估计，他本人的工作量增加了大约30%。改变的不只是数量。“它给整个流程带进了一种不信任。”他说。 可编辑们求助的工具，本身也会出错。这些工具曾把人类写作误判为AI生成，被标记的作者往往不清楚是什么触发了警报，也不知道该如何自证。开发检测工具的公司承认，尽管产品近年来越来越精密，仍不是万无一失。研究人员还发现，不同检测工具对同一篇文章，可能得出截然不同的结论。 6月发表在《国际教育诚信杂志》（International Journal for Educational Integrity）上的一项研究，比较了四款广泛使用的检测工具。研究人员测试了160篇学术论文，分为完全人类撰写、完全AI撰写、两者混合，以及人类重写AI材料四类。其中Pangram的准确率最稳定：40篇混合文本论文中，它正确识别出37篇用了AI；40篇人类重写的论文中，同样识别出37篇。Pangram首席执行官马克斯·斯佩罗（Max Spero）在邮件声明中表示，公司的工具也会出错，尤其是在可供评估的文字不多时。 宾夕法尼亚大学计算机与信息科学教授克里斯·卡利森-伯奇（Chris Callison-Burch）指出，已发表的作品还会带来额外的麻烦。“许多AI检测工具的做法，是询问大语言模型一段文字有多可预测。”他说，问题在于，语言模型也往往觉得它训练数据里的文字特别可预测。科学博主珍妮尔·谢恩（Janelle Shane）2022年底就碰上了这种情况。她拿自己2019年出版、讲解AI如何运作的书测试，一款工具报告其中段落由机器生成的置信度高达98.7%。谢恩称这是“明显、刺眼、闪着红灯的误报”，文字是她自己写的。 卡利森-伯奇说，像麦格劳写作样本这样未发表的草稿，不会遇到训练数据的问题，却仍可能因写作风格被误判。检测工具会从用词、标点和句子组织方式里找线索。用“delve”这个词、频繁使用破折号、把观点三个一组列出，都可能触发阳性结果；以“notably”“crucially”等副词开头，或先抛出问题紧接着回答，也是如此。可这些同样是人类写作者熟悉的习惯。他解释，工具权衡的是整篇文章的模式，一个破折号或某个词，不等于用了机器人。 作家权益组织作家协会（Authors Guild）5月表示，使用AI检测工具“营造了一种让人联想到猎巫的环境”，作家们担心被错误指控，也不知如何自辩。该组织写道，误报可能让作者丢掉出版合同和声誉；而漏报，也就是AI生成的作品未被发现地通过正规出版渠道，可能让读者对作者和整个行业失去信任。克拉克说，他个人不用检测工具筛选来稿，但认为某些工具可以帮不堪重负的编辑管理投稿量，前提是核实结果。他提醒，不要把怀疑变成可能毁掉作家声誉的指控。“投稿应该以拒稿结束，而不是以指控结束。” 那次经历之后，麦格劳的写法变了。她说，对再次被指控的恐惧，让她开始回避某些词语和句式，偶尔还会省掉过去习惯加的逗号，希望这种不一致能证明文字出自人手。她怀念破折号：那是她在新闻学院学到、用了几十年的手法。大语言模型从人类文字中学习，她却感到压力，要让自己的文字显得不那么像AI。她说，这就像设法骗机器相信自己不是机器。 那份书籍提案的工作，她当时选择放手。真正让她不安的是以后。“我在为那一天做准备：到时候是一份我真心想争取的任务，结果能决定我的成败。”麦格劳说。 #AI检测 #人工智能 #Technology #科技 #HuaMedia #华传媒 关注@ChineseAMER，发现更多精彩！

曝光 18 · 评论 1 · 点赞 0 · 书签 0