万维读者网 > 信息时代 > 正文  

聊天机器人这一“坏毛病”无药可医

www.creaders.net | 2023-08-28 15:54:49  世界新闻网 | 0条评论 | 查看/发表评论

  聊天机器人如ChatGPT蔚为时兴,但使用它们,只要时间够久,都会发现它们会大扯谎话,目前此一现象被称为妄想(hallucination)、虚谈(confabulation),简而言之就是捏造;开发商声称正努力让自己的AI机器人更追求真实,但也有学者指出,这种AI科技与设想达成的目标,两者本质上就不搭界,无药可医。

聊天机器人这一“坏毛病”无药可医

  美联社报道,一些企业、组织、高中生想动用生成式AI系统,来谱组文件交差。有些人使用生成式AI想完成的任务,可能有严重后果,例如心理疗法、研究论文及法律文件。

  聊天机器人Claude 2的创造人阿莫迪(Daniela Amodei)表示,他不相信今天有哪一款聊天机器人能没有妄想这个毛病,因为设计出来,就是想预测下一个字词,所以有些时候,这些正式名称叫“语文模型”(language model)的聊天机器人,就是做不精准。

  Anthropic、ChatGPT的OpenAI等其他主要聊天机器人的开发商都表示,正致力于把自己的语文模型改得更务求真实。

  但还要多久,语文模型才能开出医疗建议?有这个能力办到吗?都有待观察。

  华盛顿大学“电算语言学实验室”(Computational Linguistics Laboratory)主任艾默莉‧班德(Emily Bender)表示,这个问题是解决不了的,科技与设想达成的目标,两者之间本质上就配对错误。

  很多事情都取决于生成式AI的可靠程度。OpenAI的执行长阿特曼(Sam Altman)6月造访印度时,印度AI科学家巴格勒(Ganesh Bagler)问到AI妄想的问题,阿特曼只表示乐观,认为要花一年半或两年,问题就会改善多多,创造力与完全准确之间有所权衡,语文模型得先了解,你是要创造力还是完全精准。

   0


24小时新闻排行榜 更多>>
1 突然,中国发出开放的信号
2 习突然认怂 北京开始抓人
3 章含之文革出轨细节 在前夫大姐家通奸 下跪
4 习近平“低能”对话 真是丢脸丢到国际
5 李克强妻程虹的悲剧人生

48小时新闻排行榜 更多>>
1 突然,中国发出开放的信号
2 习突然认怂 北京开始抓人
3 暴跌历史终将重演 北京预感大事不妙
4 中俄最新密谋被截获 这下惨了
5 章含之文革出轨细节 在前夫大姐家通奸 下跪
6 正部级色虎睡遍女演员
7 兵败如山倒 北京急成这样?
8 王沪宁遭遇重大打击
9 习近平“低能”对话 真是丢脸丢到国际
10 中南海又玩砸了 他要成替罪羊?
热门专题
一周博客排行 更多>>
1 网上的中国:2023回国攻略 米笑
2 外资撤离最主要原因 习皇没有 体育老师
3 十字军战争和反犹主义 古林风
4 2023金秋故乡行(10)阿拉善英 绿岛阳光
5 醒醒睡睡 林长信
6 习近平旧金山外交取得突破,全 金复新
7 抖音 Winston Sm
8 冬天是老人的“奪命坎”?!65 congrongli
9 腥风血雨里的南明短命王朝(六 玉米穗
10 人心的心流简约性能为之于觉知 方方
一周博文回复排行榜 更多>>
1 我眼里的江泽民 体育老师
2 北约和以色列:美国的战略负资 不合群
3 中共最担心台湾政坛发生什么? 山蛟龙
4 习近平旧金山外交取得突破,全 金复新
5 外资撤离最主要原因 习皇没有 体育老师
6 阿根廷: 不要为我哭泣 秋念11
7 上海外语学院王季愚院长/普京 体育老师
8 最后的晚餐 山蛟龙
9 大不列颠:巴斯/利物浦 马黑
10 世界的格局:美国人的视野 不合群
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.