![]() |
|
OpenAI製作的ChatGPT为全球开创新局,不过近来共同创办人奥特曼(Sam Altman)频频示警AI可能带来的危险,该公司5日更表示,将建立一个新的研究团队,确保人工智慧继续保持对人类无害,最终将透过AI来监督AI自身的发展。
路透社报道,OpenAI共同创办人苏茨凯佛(Ilya Sutskever)与AI对齐负责人来克(Jan Leike)共同撰写一则贴文,以严重措辞警告,“超级智能的巨大能力,可能导致人类丧失权力,甚至可能导致人类灭绝”,“目前,我们对于控制一个潜在的超级智能AI还没有任何解方,也无法预防AI失控。”
由微软支持的OpenAI正投入20%的计算能力,预计在未来4年内解决这项问题,该公司正针对这项任务筹组一个新的研究团队。该团队的目标是打造一个“人类等级”的AI对齐研究员, 然后透过庞大的计算能力扩展它。
OpenAI表示,这代表将会以人类反馈的方式训练AI系统,训练AI系统协助人类评估,最终训练AI系统实际上进行研究“对齐研究”。
AI安全倡导者黎溪(Connor Leahy)指出,OpenAI的计划存在根本性缺陷,因为原始的人类等级人工智能在被迫解决AI安全问题前,可能就会失控并造成破坏。
AI的潜在危险一直是相关人员甚至一般大众担心的问题,一群AI界领袖和专家,包括特斯拉创办人马斯克在内,今年4月曾共同签署一封公开信,呼吁暂停开发比OpenAI“ChatGPT-4”更强大的系统,至少6个月的时间,理由是更先进的AI将可能对社会造成风险。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
24小时新闻排行榜 | 更多>> |
1 | 空姐坦白:机组人员在飞行中 这样“发生性 |
2 | 重磅!川普放话,关税大消息 |
3 | 习近平8月下台?美前外交官细数可疑迹象 |
4 | 马尔代夫快破产了!栽在中国手里 |
5 | 川普承认对中国采取这项行动:这是个肮脏的 |
48小时新闻排行榜 | 更多>> |
1 | 比恒大还多1.14万亿的巨头,倒了 |
2 | 普京沉痛宣布:我们被骗了 |
3 | 北京出了啥事?美前顶级情报头子发话 |
4 | 4年倒闭5万多家 中国最暴利行业 要彻底消 |
5 | 刚刚!美联储,突传重磅 |
6 | 哈梅内伊又装了一回,代价也来了 |
7 | 空姐坦白:机组人员在飞行中 这样“发生性 |
8 | 重磅!川普放话,关税大消息 |
9 | “全国一盘棋”重演?习近平的新时代 |
10 | 黄石公园野牛遭活活烫死 许多游客亲眼目睹 |
一周博客排行 | 更多>> |
1 | 空前绝后:24岁的中共总书记及 | 赵大夫话室 |
2 | 俺吃错过药 | 阿妞不牛 |
3 | 人养金毛犬,我养白眼狼:伊朗 | 高伐林 |
4 | 回国避坑:既不能评论国内好坏 | aoe2 |
5 | 走出中国城,走活中国人 | 解滨 |
6 | 中美空军相差多远?看运-20和C | 弓长贝占郎 |
7 | 人死后灵魂还在吗? | 骆驼 |
8 | 共产革命之前的上海和伊斯兰革 | 陈家梁子 |
9 | 为何黄左反川甚于反共? | 蛇形刁手 |
10 | 习大大唱独角戏,听床师们情何 | 蛇形刁手 |
一周博文回复排行榜 | 更多>> |
1 | 人死后灵魂还在吗? | 骆驼 |
2 | 俺吃错过药 | 阿妞不牛 |
3 | 文明、优雅、格局 | 体育老师 |
4 | 为何黄左反川甚于反共? | 蛇形刁手 |
5 | 走出中国城,走活中国人 | 解滨 |
6 | 奇袭伊朗.高法裁决.外交内政. | 木秀于林 |
7 | 2024回国:海南环岛游 | 马黑 |
8 | 人养金毛犬,我养白眼狼:伊朗 | 高伐林 |
9 | 相信固执己见可以治愈 | 施化 |
10 | 再反转:B-2只炸了个皮毛? | 北栖 |