万维读者网 > 信息时代 > 正文  

聊天机器人这一“坏毛病”无药可医

www.creaders.net | 2023-08-28 15:54:49  世界新闻网 | 0条评论 | 查看/发表评论

  聊天机器人如ChatGPT蔚为时兴,但使用它们,只要时间够久,都会发现它们会大扯谎话,目前此一现象被称为妄想(hallucination)、虚谈(confabulation),简而言之就是捏造;开发商声称正努力让自己的AI机器人更追求真实,但也有学者指出,这种AI科技与设想达成的目标,两者本质上就不搭界,无药可医。

  美联社报道,一些企业、组织、高中生想动用生成式AI系统,来谱组文件交差。有些人使用生成式AI想完成的任务,可能有严重后果,例如心理疗法、研究论文及法律文件。

  聊天机器人Claude 2的创造人阿莫迪(Daniela Amodei)表示,他不相信今天有哪一款聊天机器人能没有妄想这个毛病,因为设计出来,就是想预测下一个字词,所以有些时候,这些正式名称叫“语文模型”(language model)的聊天机器人,就是做不精准。

  Anthropic、ChatGPT的OpenAI等其他主要聊天机器人的开发商都表示,正致力于把自己的语文模型改得更务求真实。

  但还要多久,语文模型才能开出医疗建议?有这个能力办到吗?都有待观察。

  华盛顿大学“电算语言学实验室”(Computational Linguistics Laboratory)主任艾默莉‧班德(Emily Bender)表示,这个问题是解决不了的,科技与设想达成的目标,两者之间本质上就配对错误。

  很多事情都取决于生成式AI的可靠程度。OpenAI的执行长阿特曼(Sam Altman)6月造访印度时,印度AI科学家巴格勒(Ganesh Bagler)问到AI妄想的问题,阿特曼只表示乐观,认为要花一年半或两年,问题就会改善多多,创造力与完全准确之间有所权衡,语文模型得先了解,你是要创造力还是完全精准。

   0


24小时新闻排行榜 更多>>
1 习近平一经宣布,立即炸锅
2 板上钉钉!习主席这个锅肯定是甩不掉了
3 “妈妈坐高铁,下车发现屁股后面湿了”
4 7年来Costco首度上调会员年费 一口气上涨
5 长江上游出现洪水 三峡水库终于撑不住了

48小时新闻排行榜 更多>>
1 日本传来重量级消息
2 传说中的新版人民币即将上市
3 人民币汇率已来到大变盘关口
4 魏凤和的“罪名”成为习的奇耻大辱
5 普京祭致命四招 习近平危险了
6 习近平一经宣布,立即炸锅
7 板上钉钉!习主席这个锅肯定是甩不掉了
8 雄安站前广场可以养牛了
9 上海街拍真养眼 满街都是“胸衣+拖地裤”
10 VPN也没用!今日,ChatGPT全面封锁中港澳
热门专题
1
美国大选
6
乌克兰战争
11
李尚福出事
2
三中全会
7
中共两会
12
秦刚失踪
3
以哈战争
8
台湾大选
13
火箭军悬案
4
中美冷战
9
李克强猝逝
14
台海风云
5
万维专栏
10
中国爆雷
15
战狼外交
一周博客排行 更多>>
1 曾华
2 中美关系态势格局 阿妞不牛
3 身边的朋友,最近有几对离婚了 平等性
4 冬天的童话 㨗克篇(四 野狼巴克
5 开明形象惹猜忌 习近平剑指汪 胡亥
6 回了一趟北京(4)杂谈(1) 芨芨草
7 撕下中共执政的最后一块合法性 思芦
8 漫谈过度自信导致中国内外交困 中国社会经
9 奥巴马一定有“阴招” 老農民
10 黄永玉的名画「猫头鹰」 treebird
一周博文回复排行榜 更多>>
1 中美关系态势格局 阿妞不牛
2 回复 阿妞不牛:后中共时代的 遍地是贪官
3 宪法的解释权应该归谁? suoliweng
4 太上总统为了败家子不惜对抗全 must
5 撕下中共执政的最后一块合法性 思芦
6 女人的角度看美国大选 倩影
7 华人与美加政治——美国总统“ 高天阔海
8 July 4th:乘坐全自动无人驾驶 马黑
9 从马教授的演讲看共军梧桐台湾 随意生活
10 莫斯科最新“和平建议”的前景 北栖
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. Creaders.NET. All Rights Reserved.