万维读者网 > 信息时代 > 正文  
末日警告!人工智能利剑 人类恐反受其害
www.creaders.net | 2018-02-22 10:37:21  英国广播公司 | 0条评论 | 查看/发表评论
  

_100138534_hi017870548.jpg

  人工智能(AI)真棒!你看,AI 的翻译完美无暇;你跟手机对瞅一下就解锁了,当然就别提阿尔法狗大战世界围棋大师的故事了。机器人当伺应生的餐馆已经在某地开业,无人驾驶快递飞机已经上岗。这种事将越来越多。

  人工智能真可怕!你看,那个影星怎么去拍色情视频了?你在网上说了句话突然遭围攻,你确定那些来势汹汹的不是机器人、机器手?那架萌萌的无人飞机,带着摄像头,还装了什么?谁在控制它?年迈父母家里那个打扫卫生的机器人,怎么语音合成出一堆粗口谩骂的言词?如果黑客侵入了心脏手术机器人的操作系统呢?

  这种事估计也会增多,如果英国剑桥大学生存风险研究中心(CSER)新公布的一份报告里那些令人毛骨悚然的可能性变成现实的话。

  这份题为《邪恶的AI》(全名《对人工智能的恶意使用》,The Malicious Use of Artificial Intelligence)阐述人工智能这一项利器加入落在歹毒之手,可能被用来造什么孽,做多少恶。

  有人觉得人工智能比核武器更危险,今天看似可爱、无辜、有用的AI,很可能不久就会变成无法驾驭的大怪物。

  最为惊悚的是 AI 强化学习领域,就是让人工智能通过强化学习,在没有人类范本或引导的情况下具备超人类的智能。

  有些问题其实已经发生,比如用机器学习软件篡改色情视频人物头像,用语音合成软件制作假新闻节目。

_100140960_tv040679438.jpg

  报告认为,对于AI的潜在威胁,人类再也不能视而不见。危险迫在眉睫。政府、科研和产业界面对“邪恶AI”,必须联手协同作战。

  鉴于其双刃剑特性,AI系统设计者应该更多着力于如何防范滥用、误用和恶意使用,以及如何化解这种情况可能带来的危害。

  政府和立法机构也必须拿出新的法律,制定新的法律框架来规范人工智能领域的发展。

  网媒《连线》(Wired) 作者汤姆·西蒙奈特(Tom Simonite)建议,AI 和机器学习研发人员在发布新成果前多权衡利弊,三四而后行。他写道,这跟AI领域近年来的开放精神有点出入,但做这个让步是值得的。

_100138539_tv043965763.jpg

  智能机器小狗可爱,萌。可万一中毒,就成狂犬了。

  需要共识

  AI 俨然已经融入当下人类社会和生活,而且正在以几何级增长的速度扩展自己的存在,但围绕人工智能的争议非但不见减少,反而日渐高涨。

  三、五年前,人们更多谈论的是机器人能为人类分担哪些劳作,而随着人工智能越来越"聪明能干",人类似乎越来越焦虑不安,"威胁"、"危险"之类字眼更频繁地与AI联系在一起。

  如果说在不久的将来人类或沦为机器人的奴役,或被毁灭,那是夸张、科幻。但是,科学界已经就人工智能对人类社会可能构成的威胁形成了一定共识。

  英国剑桥大学 CSER 中心最新发布警告,说人工智能恰似一把利剑,落入坏人手中后果不堪,比如无人飞机变成了导弹、运用假视频操纵舆论、黑客攻击自动化,等等。

  CSER最新发布的《邪恶AI》 报告的内容来自一年前在牛津举办的一次研讨会。来自学术、社团和业界的14个机构的26名专业人士参加了研讨,涉及数码、实体和政治这三个AI最可能被恶意使用的领域。

  CSER中心本身可以说是人类中较早意识到AI潜在威胁的人做出的应对努力。中心于2012年成立,任务是针对可能导致人类灭绝的四大"恶魔"研究对策,确保人类不毁于自己制造的恶魔手中。

  四大"恶魔":人工智能(AI)、气候变化、核战争、邪恶生物技术(rogue biotechnology)。

  这个机构也被戏称为"终结者研究中心"。

  CSER的沙哈·埃文(Shahar Avin)强调,报告讨论的风险仅限于已有的和五年内可能出现的AI技术产品,不包括对未来的展望。

_100106763_robotai.jpg

  双刃剑

  CSER执行总监 Seán ó héigeartaigh博士指出,AI 将改变一切;《对人工智能的恶意使用》这份报告可以说是对今后5-10年的展望。

  那么,在可以预见的将来,落入邪恶之手的AI可能带来怎样的灾难呢?《邪恶AI》归纳了一部分:

  比如,谷歌开发的AI"阿尔法狗"(AlphaGo),就是战胜国际围棋大师李世石(Lee Se-dol)的那个,在黑客手里就可以被用来归纳数据规律,搜索编码中易于攻破的薄弱环节;

  歹毒之人或有邪恶目的人可以买无人驾驶飞行器,用人脸识别软件训练它,使它能够自行搜索、攻击具体目标;

  可以让机器人自动化操作,制作和发布假视频来操纵舆论以达到某种政治目的;

  黑客可以用语音合成技术来假冒袭击目标,骗取关键信息

_99797593_gettyimages-810600250.jpg

  机器人全线进攻人类职业疆域,新闻业也难免。

  末日警告

  不断发出AI威胁警告的知名人士包括英国科学家斯蒂芬·霍金(Stephen Hawking)。他认为AI会是"人类历史上最重大的事件,不幸的是,也可能会是最后的重大事件"。

  埃隆·马斯克(Elon Musk)让特斯拉自驾车上路、重型猎鹰可回收火箭上天,却警告说人类可能毁于人工智能。马斯克曾说,AI 之险尤甚于核武。

  他们的担心主要有两点:一是具备人类决策能力的机器人没有人类道德约束,将来是否能够具备也是个疑问;二是人类创造了AI,AI又能创造更高级的超级智能,人类还没来得及设置防范措施,就可能面临机器失控的局面。

  AI在军事上的利用是最令人恐惧的情况之一。如果把 AI 的冲击力跟核弹相提并论,那么人类对核武的规范、控制或许可以为 AI 提供参照。

  法律专家指出,人工智能军备竞赛已经开始;如果核武竞赛有值得借鉴之处,那就是在允许AI机器人上战场前,必须有某种公约加以约束。

_100138532_tv038474483.jpg

  AI 的威胁真真切切,双刃剑正在出鞘。

  人类2.0版

  《人民平台》(The People's Platform)一书作者阿斯特拉·泰勒(Astra Taylor)认为,人工智能对人类社会的影响主要在两个方面,一个是数据的寡头垄断,一个是重新定义人类和人工智能的关系,属于哲学层面的冲击。

  人工智能的进步会加速中心化的趋势,未来很可能会出现少数几个庞大的、多功能的、基于云计算的商业智能寡头。他们实际上垄断了数据的收集和构建方式,以海量的信息构建一个框架,引领和影响众人的决策。这种力量如果不加规范,没有任何约束,后果堪虞,有史为鉴。

  在哲学层面,人工智能将重新定义人类和机器的关系,尤其是双方的主从关系和力量对比。简而言之,一直以来都是

  埃隆·马斯克(Elon Musk)一直在警告人类对机器人切毋掉以轻心,以免沦为机器的奴役或灭绝。

  他最经常跟PayPal、特斯拉电动车、重型猎鹰可回收火箭和火星移民计划联系在一起。但较少人知道,他已经开始一项更令常人感到不可思议的事:用人工智能来“制造”增强版人类。

_100140966_tv041014173.jpg

_100140965_tv041014172.jpg

  具体操作的是一家总部在旧金山的神经科技公司,Neuralink。这是马斯克在2016年与其他八人共同创办,2017年3月被媒体首次曝光。

  2017年,马斯克对媒体说,短期内,Neuralink 主要研发治疗严重脑部疾病的仪器,但长远目标是强化人类(human enhancement)。有报道称这个公司在研制可以植入人脑的“脑机界面”(brain-computer interfaces, BCIs),人脑和电脑的零接触交流互动。

  嗯,就是说,一个智力平平的普通人,植入一个芯片,然后就瞬间成了功夫大师,轻松击败歹徒,好像科幻电影里那样?现在,对此表示“并非没有可能”的人是越来越多了。

  贫富分化

  创新工场创办人李开复2017年曾在《纽约时报》撰文谈 AI 的冲击。他认为,AI 对人类社会的真正威胁并不在于技术层面,因为它们跟人类并不存在智力竞争,只是工具。

  AI对人类社会真正的威胁,在他看来,是对工作的含义、财富的创造和分配方式的打碎、重塑,由此"引发前所未有的经济不平等,甚至改变全球力量均势。"

  这些他认为迫在眉睫的挑战,包括大量工作被机器人取代,从制造业到服务业,各层面都可能有大量工作岗位消失。掌握AI技术的企业在这个过程中挣得钵满盆满。大规模失业的同时,财富迅速并大量集中到少数人手里。

  这些社会、民生和政治问题,必须在政策和立法层面给与及时、妥贴的应对。


   0
当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册
全部评论  
暂无评论 上一页 下一页  
实用资讯
24小时新闻排行榜 更多>>
1 川普戳破美国第一大谎言!基本放弃连任
2 默克尔变脸!警告中国不要动这个地方
3 外国囚犯从上海监狱出来 曝光了惊天秘密
4 上万车辆被困海口十分壮观 垃圾满天飞
5 拿到六四绿卡,海归找了高官太太做情人
48小时新闻排行榜 更多>>
1 66岁“唐僧”终于等到富豪老婆的遗产
2 川普戳破美国第一大谎言!基本放弃连任
3 默克尔变脸!警告中国不要动这个地方
4 外国囚犯从上海监狱出来 曝光了惊天秘密
5 回国带东西不小心 下飞机就面临死刑
6 2华女去存钱 突被警察包围!摊上大祸事
7 从冯小刚陈道明家宴八卦北京圈子社交
8 武器先进也没用 解放军打美军必败无疑
9 上万车辆被困海口十分壮观 垃圾满天飞
10 拿到六四绿卡,海归找了高官太太做情人
热门专题
一周博客排行 更多>>
1 万浩天:弄潮 万维20周年
2 阿妞不牛:我还想再活二十年 万维20周年
3 核爆揭秘:贯君的父亲是习近平 吉歌
4 刘成杰的爹不是习近平 胡亥
5 鲁炜干了什么大事 习近平为何这 不洁之人
6 2)十问习近平 – 你有什么知识 hare
7 郭文贵连遭挫折,一意孤行难致 吉歌
8 中国梦和皇帝梦 被满清奴化后的 文庙
9 周末一笑 《春晚》 Rondo
10 中国和美国的差距?二马之距而 贾舟子
一周博文回复排行榜 更多>>
1 中国梦和皇帝梦 被满清奴化后的 文庙
2 阿妞不牛:我还想再活二十年 万维20周年
3 因为无法管控所有疯子,控枪绝 遍野
4 2)十问习近平 – 你有什么知识 hare
5 【金狗旺旺】— 献给爱丽丝 木桩
6 “胜利者”? 幼河
7 我想感谢中国的一位伟人——毛 战斗在温哥
8 先十问自己然后再十问习近平 嘎拉哈
9 “剪头巾事件”的华丽结局 思羽
10 七律 新春感怀 祝诗友和博友们 七分儿
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2016. CyberMedia Network/Creaders.NET. All Rights Reserved.