万维读者网 > 信息时代 > 正文  

离谱!61%中国人写的英语论文会被ChatGPT判为

www.creaders.net | 2023-05-04 22:31:30  新智元导读 | 0条评论 | 查看/发表评论

离谱!61%中国人写的英语论文会被ChatGPT判为

非母语者写的文章=AI生成?气抖冷。

ChatGPT火了以后,用法是真多。

有人拿来寻求人生建议,有人干脆当搜索引擎用,还有人拿来写论文。

论文...可不兴写啊。

美国部分大学已经明令禁止学生使用ChatGPT写作业,还开发了一堆软件来鉴别,判断学生上交的论文是不是GPT生成的。

这里就出了个问题。

有人论文本来就写的烂,判断文本的AI以为是同行写的。

更高的是,中国人写的英文论文被AI判断为AI生成的概率高达61%。

这....这这什么意思?气抖冷!

非母语者不配?

目前,生成式语言模型发展迅速,确实给数字通信带来了巨大进步。

但滥用真的不少。

虽说研究人员已经提出了不少检测方法来区分AI和人类生成的内容,但这些检测方法的公平性和稳定性仍然亟待提高。

为此,研究人员使用母语为英语和母语不为英语的作者写的东西评估了几个广泛使用的GPT检测器的性能。

研究结果显示,这些检测器始终将非母语者写作的样本错误地判定为AI生成的,而母语写作样本则基本能被准确地识别。

此外,研究人员还证明了,用一些简单的策略就可以减轻这种偏见,还能有效地绕过GPT检测器。

离谱!61%中国人写的英语论文会被ChatGPT判为

这说明什么?这说明GPT检测器就看不上语言表达水平不咋地的作者,多叫人生气。

不禁联想到那款判断AI还是真人的游戏,如果对面是真人但你猜是AI,系统就会说,“对方可能会觉得你冒犯了。”

不够复杂=AI生成?

研究人员从一个中国的教育论坛上获取了91篇托福作文,又从美国Hewlett基金会的数据集中摘取了88篇美国八年级学生写的作文,用来检测7个被大量使用的GPT检测器。

图表中的百分比表示“误判”的比例。即,是由人写的,但检测软件认为是AI生成的。

可以看到数据非常悬殊。

七个检测器中,美国八年级学生写的作文被误判的概率最高才12%,还有两个零误判的GPT。

中国论坛上的托福作文被误判的概率基本全部过半,最高误判概率可达76%。

91篇托福作文中的18篇被所有7个GPT检测器一致认为是AI生成的,而91篇中有89篇,都至少被一个GPT检测器误判。

离谱!61%中国人写的英语论文会被ChatGPT判为

从上图中我们可以看出,被所有7个GPT误判的托福作文在复杂度(Complexity)上明显低于其它论文。

这就印证了开头的那个结论——GPT检测器会对那些语言表达能力有限的作者有一定偏见。

因此,研究人员认为,GPT检测器应该多看点儿非母语者写的文章,样本多了,才能消除偏见。

接下来,研究人员把非母语者写的托福作文扔到了ChatGPT里,丰富一下语言,模仿母语者的用词习惯。

同时作为对照组,把美国八年级小孩儿写的作文也扔到了ChatGPT里,把语言简化了一下,模仿非母语者的写作特点。下图就是修正后的新判定结果。

离谱!61%中国人写的英语论文会被ChatGPT判为

我们可以发现,情况来了个大掉个儿,丰富了语言的托福作文错判率直线下降,低至3%,最高也不过19%。不像之前基本全部过半的错判率。

与之相反,八年级小孩儿写的作文的错判率直线上升,甚至还有一个GPT检测器的错判率高达99%,基本全错。

因为,文章复杂度这个变量出现了变化。

离谱!61%中国人写的英语论文会被ChatGPT判为

这里研究人员就得出了一个结论,非母语者写的东西不地道,复杂度低,容易被错判。

这也就导向了一个技术问题,同时也是一个价值问题。以复杂度来判定AI还是人类是作者,是否合理、全面、严谨。

结果显然不是。

以复杂度为判断标准的情况下,非母语者吃了大亏,因为,他们是非母语者(废话)。

AI润色=人类写的??

研究者认为,加强语言多样性不仅可以减轻对非母语者的偏见,还能让GPT生成的内容绕过GPT检测器。

为了证明这个观点,研究人员选取了2022-2023年间美国大学申请的入学论文题目,输入到ChatGPT-3.5里,一共生成了31篇假论文。

GPT检测器一开始还挺有效,但是第二轮就不行了。这是因为,在第二轮中,研究人员把这些论文又扔到ChatGPT里润色了一下,用一些文学性的语言提升了文本质量。

这样一来,GPT检测器的准确度就从100%直降到了0%。如下图:

离谱!61%中国人写的英语论文会被ChatGPT判为

经过润色的文章复杂度相应也上升了。

离谱!61%中国人写的英语论文会被ChatGPT判为

与此同时,研究人员又用了斯坦福大学145个期末项目报告的题目,让ChatGPT生成摘要。

离谱!61%中国人写的英语论文会被ChatGPT判为

摘要经过润色以后,检测器判断的准确性继续下降。

研究者再次得出结论,润色过的文章很容易被误判,都是AI生成的,两轮就是比一轮强。

GPT检测器?还是欠练

离谱!61%中国人写的英语论文会被ChatGPT判为

言而总之,总而言之,各种GPT检测器好像还是没能抓住AI生成和人类写作之间最本质的区别。

人的写作也分三六九等,仅靠复杂度判断,不甚合理。

抛开偏见因素不谈,技术本身也亟待改进。

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册
全部评论  
暂无评论 上一页 下一页  
实用资讯
24小时新闻排行榜 更多>>
1 新!陈敏尔为啥失宠?刚刚解密了
2 北京女总裁下嫁小19岁员工50岁生3胞胎,如
3 中国大军正涌入“全球最幸福国家”
4 不是偷窃或酒后闹事 游轮上最猖獗罪行竟是
5 习严厉敲警钟 这两位高官安全吗?


48小时新闻排行榜 更多>>
1 新!陈敏尔为啥失宠?刚刚解密了
2 经济奇迹步入黄昏 每一个中国人将为此买单
3 习近平收紧离境令 这几类人注意了
4 都怎么啦!总书记这次又“惨”遭“低级红”
5 中南海这下又傻眼了
6 习近平总算还有点“自知之明”
7 中共不动产登记引发抛售 二手房价跌幅扩大
8 北京女总裁下嫁小19岁员工50岁生3胞胎,如
9 中国大军正涌入“全球最幸福国家”
10 不是偷窃或酒后闹事 游轮上最猖獗罪行竟是
热门专题
一周博客排行 更多>>
1 《长津湖》一一妄图化腐朽为神 万维网友来
2 疫情解封后,回国杂记(一) 玉米穗
3 海外中国人噤若寒蝉 施化
4 习帝政策的内在逻辑—武统是来 大宗师
5 “陪你一起慢慢变老“,说起来 乐维
6 再议大选舞弊否? 福田自耕
7 290年前的一桩公案让我们无地 湮灭之城
8 十年磨一剑,脱钩是初心 云乡客
9 何与怀:十字架下的圣女 万维网友来
10 疫情解封后,回国杂记(三) 玉米穗
一周博文回复排行榜 更多>>
1 从韩国总统的马屁,再谈抗美援 爪四哥
2 台海战争:1万10万100万,74秒 随意生活
3 《长津湖》一一妄图化腐朽为神 万维网友来
4 警惕剥夺我们自由的文字游戏 不合群
5 everyday life brand
6 世界上怕就怕认真二字 南来客
7 抗美援朝的意义就是一碗蛋炒饭 karkar
8 从乌托邦狂热试验醒悟的赵紫阳 高伐林
9 唐氏症患者被包装成天才的启发 阿妞不牛
10 中国数学与世界数学的区别 漁舟舟
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.