万维读者网 > 信息时代 > 正文  

AI可能构成“毁灭级”风险

www.creaders.net | 2024-03-13 17:04:52  环球网 | 0条评论 | 查看/发表评论

据美国有线电视新闻网(CNN)12日报道,美国国务院委托第三方机构进行的一份新调查报告称,快速发展的AI或对人类构成“毁灭级”风险。该报告还警告说,美国政府避免灾难的时间已经不多了,必须进行干预。

这份报告由专注于AI领域的公司“格拉德斯通人工智能”撰写。报告基于一年多来对200多名AI公司高管、网络安全研究人员、大规模杀伤性武器专家和美国国家安全官员的采访,得出“在最坏的情况下,最先进的AI系统可能对人类构成毁灭级别的威胁”的结论。

CNN称,研究人员提出了两个主要危险:首先,最先进的AI系统可能会被“武器化”,造成潜在的不可逆转的损害;其次,AI实验室内部存在担忧,即在某些时候,他们可能会“失去对正在开发的系统的控制”,从而“对全球安全造成潜在的破坏性后果”。

报告将AI发展给全球安全带来的风险与核武器相比,称未来AI发展存在“军备竞赛”、冲突和“大规模杀伤性武器致命事故”的风险。CNN称,最大的不确定因素之一是AI的发展速度有多快,尤其是通用人工智能(AGI)的发展速度。报道称,AGI具有类似人类甚至超越人类的学习能力,“被视为失控导致灾难性风险的主要驱动因素”。格拉德斯通人工智能的报告称,OpenAI、谷歌DeepMind等都公开表示,AGI可能会在2028年实现。

报告还称,AI可用于设计和实施“能够破坏关键基础设施的高效网络攻击”。一个简单的口头或打字命令,比如“实施无法追踪的网络攻击,使北美电网崩溃”,就可能造成一场灾难。其他风险案例包括由AI驱动的“大规模”虚假宣传活动、武器化机器人应用、心理操纵、武器化生物和材料工程等。报告还提到,竞争压力正在推动企业“以牺牲安全和保障为代价”加速AI的发展,这增加了最先进的AI系统可能被窃取并被武器化的风险。

AI可能构成“毁灭级”风险

报告呼吁采取重大新措施来应对这一威胁,包括成立一个新的AI机构,实施紧急监管,并限制用于训练AI模型的计算机能力等。

   0


24小时新闻排行榜 更多>>
1 中南海 出大事了!
2 惊爆:三中全会推迟开 因习欲追责江泽民
3 他竟是外国人!北京这回糗大了
4 全球联合放映这部大片 习近平脸往哪儿搁
5 安徽22岁姑娘因画“猪头人身”漫画被逮捕

48小时新闻排行榜 更多>>
1 中南海 出大事了!
2 中国出动上百警察镇压学生 传20多人死亡
3 惊爆:三中全会推迟开 因习欲追责江泽民
4 他竟是外国人!北京这回糗大了
5 飞船到达240亿公里外的深空 带来残酷现实
6 86岁中国书画巨匠宣布再婚 女方为小50岁美
7 全球联合放映这部大片 习近平脸往哪儿搁
8 安徽22岁姑娘因画“猪头人身”漫画被逮捕
9 中国女子车内自慰视频疯传 车商和网友吵翻
10 雄安新区的最新照片曝光 “犹如世界末日景
热门专题
1
美国大选
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
以哈战争
8
李克强猝逝
13
台海风云
4
乌克兰战争
9
中国爆雷
14
战狼外交
5
万维专栏
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 中共敲诈勒索海外华人又升级了 右撇子
2 省委官员要求马宅移走温家宝花 马黑
3 包子为何抓姚明? 山蛟龙
4 证明姐是你姐 Shanechen
5 替习皇上辩护几句话 右撇子
6 突然发现身边华人混血的人数暴 大宗师
7 莫非習近平是上帝派來救中國的 日月光华
8 2024 成都生活记(2):病房里 老冬儿
9 你可能想象不到,中美手术差距 体育老师
10 兄弟我生活在恐惧中 老農民
一周博文回复排行榜 更多>>
1 前瞻:习马再相会 花蜜蜂
2 耶伦访华三任务 随意生活
3 中共敲诈勒索海外华人又升级了 右撇子
4 2024 成都生活记(2):病房里 老冬儿
5 中国人奴性的根源------《商君 山蛟龙
6 苏联卫国战争与中国抗日战争的 三都瓠瓜
7 乌克兰的败象使习帝武统有了信 大宗师
8 体老又信谣传谣了,对不起网友 体育老师
9 耶伦为何又访问中共国? 山蛟龙
10 包子为何抓姚明? 山蛟龙
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.