|
聊天机器人如ChatGPT蔚为时兴,但使用它们,只要时间够久,都会发现它们会大扯谎话,目前此一现象被称为妄想(hallucination)、虚谈(confabulation),简而言之就是捏造;开发商声称正努力让自己的AI机器人更追求真实,但也有学者指出,这种AI科技与设想达成的目标,两者本质上就不搭界,无药可医。
美联社报道,一些企业、组织、高中生想动用生成式AI系统,来谱组文件交差。有些人使用生成式AI想完成的任务,可能有严重后果,例如心理疗法、研究论文及法律文件。
聊天机器人Claude 2的创造人阿莫迪(Daniela Amodei)表示,他不相信今天有哪一款聊天机器人能没有妄想这个毛病,因为设计出来,就是想预测下一个字词,所以有些时候,这些正式名称叫“语文模型”(language model)的聊天机器人,就是做不精准。
但还要多久,语文模型才能开出医疗建议?有这个能力办到吗?都有待观察。
华盛顿大学“电算语言学实验室”(Computational Linguistics Laboratory)主任艾默莉‧班德(Emily Bender)表示,这个问题是解决不了的,科技与设想达成的目标,两者之间本质上就配对错误。
很多事情都取决于生成式AI的可靠程度。OpenAI的执行长阿特曼(Sam Altman)6月造访印度时,印度AI科学家巴格勒(Ganesh Bagler)问到AI妄想的问题,阿特曼只表示乐观,认为要花一年半或两年,问题就会改善多多,创造力与完全准确之间有所权衡,语文模型得先了解,你是要创造力还是完全精准。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦 |
24小时新闻排行榜 | 更多>> |
1 | 中南海怂了 赶在年底突然宣布… |
2 | 中国曝光全球首架六代战机 马斯克这样评论 |
3 | 中国疯传一则消息!越来越多渠道证实 |
4 | 马斯克重大信号突袭 |
5 | 异常高调 胡春华或将接任这个要职 |
48小时新闻排行榜 | 更多>> |
1 | 中南海怂了 赶在年底突然宣布… |
2 | “北京的萧条,让你大跌眼镜” |
3 | 中国曝光全球首架六代战机 马斯克这样评论 |
4 | 中国疯传一则消息!越来越多渠道证实 |
5 | 马斯克重大信号突袭 |
6 | 排华浪潮爆发 军方竟开装甲车撞开华人商铺 |
7 | 异常高调 胡春华或将接任这个要职 |
8 | 毛泽东最后生日宴出惊现凶兆 在场所有人吓 |
9 | 温家宝亲笔信释放敏感政治信号 |
10 | 这种茶不能喝了?释放有害物质的数量惊人 |
一周博客排行 | 更多>> |
1 | 孤勇者!真理往往掌握在少數人 | Winston Sm |
2 | 中国有私有产权吗? | 施化 |
3 | 美国与俄罗斯两位重量级政治思 | 高伐林 |
4 | 多年前对江习王体制观察 | 胡亥 |
5 | 每当看到这种场面,就觉得出国 | 旅泉 |
6 | 一地鸡毛/中央最新决定/你知道 | 体育老师 |
7 | 陈辉上将不可能是胡锦涛人马 | 胡亥 |
8 | 人不可貌相 | 云儿云儿 |
9 | 全聚德烤鸭倒闭了,全国高校思 | 体育老师 |
10 | 一条阴险恶毒的栽赃排华谣言 | 溪边树下 |
一周博文回复排行榜 | 更多>> |
1 | 中国有私有产权吗? | 施化 |
2 | 川普MAGA目标宏远脚踏实地.若 | 木秀于林 |
3 | 台奸是否已经泛滥 | 右撇子 |
4 | 吉米卡特盖棺论定 | 施化 |
5 | 台湾最佳防御 - 非军事化 | 山货郎 |
6 | 解禁"抖音",将成为 | must |
7 | 天之大棋 | 特有理 |
8 | 中美友谊故事征文 | Shanechen |
9 | 中国人群体性的十个恶习 | 汪翔 |
10 | AI谈川普第一行政令与执政的首 | 漁舟舟 |