文字担责

Anthropic 今天正式解释了 Claude 的新机制:未来 Claude 模型生成的文本会包含一种机器可检测的统计水印。它不是隐藏字符,也不是往文本里塞 metadata,而是在模型面临多个同样合理的下一个词时,用一个带密钥的随机机制来影响选择。读者肉眼看不出来,但掌握 key 的检测器可以统计判断“Claude 曾参与生成这段文字的可能性”。Anthropic 明确说,这个水印只能说明 Claude likely was involved,不能证明“Claude 是作者”,也无法区分“Claude 写了全文”和“Claude 深度编辑了人写的文字”。

之前一些 AI 检测器闹的笑话,检测出王勃在一千多年前用 AI 写了《滕王阁序》。现在各大院校的 AI 论文检测器把莘莘学子折磨得苦不堪言。

A 社的这个水印,既不能用作证明,也不能用作证伪,不知道有多少是迫于欧盟的一厢情愿的政策,但至少他们是真实施了。

也好,现在可以让这个话题具有科学讨论的余地了。不再是,你说有“AI 味”就是 AI 写的。有了水印,现在是可以精确到“5%的可能性是 AI 写的”。

但,那又能下什么新的结论呢?

举个例子,一篇学生论文,需要想法、调研、反复推敲、查证、构思论文结构、写作等。学生甲把前面的都交给 AI,只是最后用自己语言通篇重新手搓论文,一点 AI 水印都不留。而学生乙把前面的都自己全包了,然后最后让 AI 帮忙码字出论文。两个学生的论文,各自到底是“谁写的”,是靠水印能够分得清的吗?一定要挑一个,你觉得哪个学生应该毕业?当然了,在现实生活中,学生乙更可能是在所有环节都深度让 AI 参与。所以,即使真的可以可靠的知道论文是“谁写的”,也下不了什么结论。

自从近年有了 AI,各大高校对论文的 AI 检测,想想其实挺可悲的。中国千年科举制度,早早已经不看文章是“谁写的”,北宋开始采用誊录。具体来说,考生本人用墨笔写的原卷叫 “墨卷”;试卷先弥封姓名,然后由专门的誊录人员把全文重新抄一遍,通常用朱笔,所以副本叫 “朱卷”。朱卷再经过“对读”程序,与墨卷逐字核对。真正送到考官手里评阅的是朱卷。阅卷官既看不到身份,也不能通过笔迹判断考生。现在的 AI 人人可用,足够公平,教授们为何不能按“朱卷”打分呢?为什么还要纠结“笔迹”呢?

你说那不同,哪能不弄清楚有多少“朱卷”内容是出自学生自己的“大脑”,不能靠 AI 这枪手完成的“朱卷”也顺利毕业吧?

为什么不能?难道当今不会用 AI 的学生就该顺利毕业吗?难道他们毕业以后工作不会用 AI 就能出好业绩吗?就能为校争光吗?

其实以前没有 AI,也可以请人肉枪手,只不过那时候寒门学子比较吃亏,现在 AI 反而把这个出身不公给抹平了。

那些不学无术的完全靠 AI 混毕业的难道就不管了?这就点题了,问“谁写的”,不如问“谁的”?谁的文字谁担责。论文也好,工作报告也好。上面例子里的两篇论文,答案容易很多了,分别是学生甲的和学生乙的。不管用了多少 AI,毕业论文是他们的一个作品,他们用这个作品毕业,用制作这个作品过程累积的知识去面试找工作,去发光发热。责任是他们自己的。当然,那些用人单位找人只看文凭的也要为他们自己的招聘策略担责。

说到底,AI 的出现,只是把整个社会往担责的那边推了一把狠的。以前看不清功劳,就看谁有苦劳。现在 AI 把苦都吃了,人只剩下对结果负责。

有一次,开完会,我让 AI 给总结一下,我瞟了一眼,就发出去了。隔壁组老板看了说,你在 test is trending positive (测试结果呈积极趋势) 后面忘了加 but not stat sig (但尚未达到统计显著性)。我能怪 AI 吗?我发出去的文字,不够完整,只能由我担责。

另外,我还养成一个习惯,公司里有各种乱七八糟的文档,如果一整段文字都是 AI 生成的,我在分享的时候会跟读它的人说,这完全是 AI 生成的,你看着办。我的时间是时间,别人的时间也是时间。另外,这样说了,表明是“谁的”,爱谁谁反正不是我的,不担责。

Leave a comment