万维读者网 > 信息时代 > 正文  

100年内AI消灭人类机率达99.9% 悲惨结局有3种

www.creaders.net | 2024-06-05 22:28:39  ETtoday | 0条评论 | 查看/发表评论

研究人工智能(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。 不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报道,扬波尔斯基在路易斯维尔大学(University of Louisville)教授计算机科学,专精网络与AI安全方面研究。 近日他出版新书《人工智能:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智能带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软件。 但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。 我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。”

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,“即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』”。

扬波尔斯基警告,我们无法预测一个更聪明的系统会怎么做。 他在通用人工智能(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。 扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

100年内AI消灭人类机率达99.9%   悲惨结局有3种

▲有关AI发展的安全性,科技界重要人物也曾发表看法。 (示意图/CFP)

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。 另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个“监管沙盒”(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。 奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。 特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网络与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。

   0


24小时新闻排行榜 更多>>
1 这张图在国内传疯了
2 疑使用全新技术!美卫星拍到中国一张照片
3 习发起“删除美国”运动 他说睡狮被迫醒来
4 中南海已大难临头
5 中国今年突然出现一个新动向

48小时新闻排行榜 更多>>
1 这张图在国内传疯了
2 疑使用全新技术!美卫星拍到中国一张照片
3 用不了多久 人民币就会被打回原形
4 习发起“删除美国”运动 他说睡狮被迫醒来
5 中南海已大难临头
6 终于说实话了!华为高层内部谈话引震动
7 慈禧出逃后,日本人拍摄的原貌照片,极为珍
8 普京大势已去
9 中国今年突然出现一个新动向
10 习近平究竟怎么想?大多数知情者认为…
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 高瞻:我亲身经历的“六四”两 万维网友来
2 曾华
3 谁发动武统台湾的战争,就是禽 suoliweng
4 “普京同志,我剛訪歐回來,那 Winston Sm
5 包子露馅了~ 山蛟龙
6 世纪审判:川普,川普,guilty 爪四哥
7 真正的判决是11月5日吗? 右撇子
8 川普的事儿我已经没怎么追踪了 倩影
9 共和党自己把自己害惨了 karkar
10 干掉川普可以,但是摧毁美国, 启泰
一周博文回复排行榜 更多>>
1 真正的判决是11月5日吗? 右撇子
2 世纪审判:川普,川普,guilty 爪四哥
3 谁发动武统台湾的战争,就是禽 suoliweng
4 川普的事儿我已经没怎么追踪了 倩影
5 乌贼准备好为了败灯的面子和俄 不合群
6 也谈川普被定罪 湮灭之城
7 川普冲撞法律 俞先生
8 绿皮火车的回忆 (之六) 南京 水星98
9 未来的世界就两个国家,一个是 体育老师
10 从猪肉馅到《竺可桢日记》 席琳
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.