万维读者网 > 信息时代 > 正文  

防止AI失控灭绝人类?OpenAI:还没有任何解方

www.creaders.net | 2023-07-05 17:39:05  ETtoday | 0条评论 | 查看/发表评论

▲ChatGPT,AI,人工智慧。(图/路透)

▲ChatGPT带起的AI风潮,引发人类灭绝疑虑。(图/路透)

OpenAI製作的ChatGPT为全球开创新局,不过近来共同创办人奥特曼(Sam Altman)频频示警AI可能带来的危险,该公司5日更表示,将建立一个新的研究团队,确保人工智慧继续保持对人类无害,最终将透过AI来监督AI自身的发展。

路透社报道,OpenAI共同创办人苏茨凯佛(Ilya Sutskever)与AI对齐负责人来克(Jan Leike)共同撰写一则贴文,以严重措辞警告,“超级智能的巨大能力,可能导致人类丧失权力,甚至可能导致人类灭绝”,“目前,我们对于控制一个潜在的超级智能AI还没有任何解方,也无法预防AI失控。”

文中预测,作为一个超越人类智能的系统,超级智能AI有可能在10年内诞生,人类需要比当前更厉害的技术来控制超级智能AI,代表必须在“对齐研究”上有所突破。文中指出,“对齐研究”是聚焦于确保AI如何持续对人类有益的研究。

由微软支持的OpenAI正投入20%的计算能力,预计在未来4年内解决这项问题,该公司正针对这项任务筹组一个新的研究团队。该团队的目标是打造一个“人类等级”的AI对齐研究员, 然后透过庞大的计算能力扩展它。

OpenAI表示,这代表将会以人类反馈的方式训练AI系统,训练AI系统协助人类评估,最终训练AI系统实际上进行研究“对齐研究”。

AI安全倡导者黎溪(Connor Leahy)指出,OpenAI的计划存在根本性缺陷,因为原始的人类等级人工智能在被迫解决AI安全问题前,可能就会失控并造成破坏。

AI的潜在危险一直是相关人员甚至一般大众担心的问题,一群AI界领袖和专家,包括特斯拉创办人马斯克在内,今年4月曾共同签署一封公开信,呼吁暂停开发比OpenAI“ChatGPT-4”更强大的系统,至少6个月的时间,理由是更先进的AI将可能对社会造成风险。

   0


24小时新闻排行榜 更多>>
1 突发:国家情报机构领导层集体辞职
2 什么原因?中国10家航司取消近9000趟赴这国
3 疫情汹涌 军方密报:习这样指示
4 医生快饿死 学生少一半 中国要不要再封
5 这个会议召开,中国人人自危的时代到了

48小时新闻排行榜 更多>>
1 超越德日,中国将成世界第一
2 中国官方发布:这42人不回国将被严惩
3 中国神秘画册震撼世界 85岁“扫地僧”心血
4 突发:国家情报机构领导层集体辞职
5 什么原因?中国10家航司取消近9000趟赴这国
6 受够了!拜登、川普被嫌弃,她有可能创造历
7 2023全球最安全国家排名出炉:美国仅排名…
8 疫情汹涌 军方密报:习这样指示
9 医生快饿死 学生少一半 中国要不要再封
10 华人泪奔:四口之家年生活开支35万 过得像
热门专题
一周博客排行 更多>>
1 外资撤离最主要原因 习皇没有 体育老师
2 网上的中国:2023回国攻略 米笑
3 世界的格局:美国人的视野 不合群
4 哈马斯恐怖组织与以色列极右势 海阔_天空
5 柯文哲,应该会是他吗?100年 特喜欢猜谜
6 二十世纪,祸害中国最严重的, 恨中
7 我眼里的江泽民 体育老师
8 2023金秋故乡行(10)阿拉善英 绿岛阳光
9 神经全球直播 第五章 尘土书 1 葛亦民
10 面对美女演员,权力与资本谁更 顾晓军53
一周博文回复排行榜 更多>>
1 我眼里的江泽民 体育老师
2 北约和以色列:美国的战略负资 不合群
3 突发:轮系大V蕭茗发表声明“ 金复新
4 中共最担心台湾政坛发生什么? 山蛟龙
5 我们这一代的痛 艺萌
6 外资撤离最主要原因 习皇没有 体育老师
7 习近平旧金山外交取得突破,全 金复新
8 烤羊排/羊架 老冬儿
9 阿根廷: 不要为我哭泣 秋念11
10 最后的晚餐 山蛟龙
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.