著名物理学家史蒂芬•霍金(Stephen Hawking)教授预测，下个世纪人类将面临比人类更聪明智能的人工智能机器人的崛起。霍金教授表示我们需要担心的不是谁控制着人工智能，而是人工智能是否可以被控制。他在伦敦召开的Zeitgeist2015会议上发表了这一言论，随后他表示人工智能可能意味着人类的终结。
“在未来100年内，人工智能计算机将接替人类。如果这一情形的确发生了，那么我们必须确保计算机的目标与我们的相一致。我们的未来是科技日益发展与我们睿智的使用科技之间的竞赛。”
今年早期，霍金和Space-X和特斯拉公司CEO企业家埃隆•马斯克(Elon Musk)共同签署了一份公开信，声称人工智能的发展不应该任由其不可控制的发展下去。这份文件表示如果智能机器没有任何保护措施，那么人类的未来将一片黑暗。
这份公开信是由非营利组织生命未来研究起草的，它警惕科学家们要注意那些可能毁灭人类的风险。作者表示“广泛的普查”表明人工智能研究目前一切顺利，它将会对社会产生日益增多的影响。“潜在的益处是巨大的，因为文明所提供的一切都是人工智能的产品;我们无法预测当人工智能所能提供的工具将这种智能无限放大时，我们可能面临的结果是什么，但疾病和贫穷的根除并非深不可测，”作者这样写道。
但这也提出了Stark警示，研究不应该只关注于人工智能所能带来的益处，还要调查如何避免它可能带来的潜在损害。例如，从短期来看，人工智能可能导致上万人失业。从长期来看，它可能变成小说里虚构的那种糟透了的社会，比人类更聪明的机器开始反抗它们的编制程序。“我们的人工智能系统必须做我们希望它们做的事，”这份公开信这样写道。这也回应了霍金今年早期发表的言论，他认为成功的创造人工智能“将是人类历史上最大的事件，但不幸的是，这也可能是最后一件事。”
霍金教授表示我们需要担心的是人工智能是否可以被控制
马斯克警告称由于具有人工智能的机器的发展，人类将面临某件异常危险的事
去年11月，马斯克警告称最快在未来五年，由于具有人工智能的机器的发展，人类将面临“某件异常危险的事即将发生”的风险。在此之前，马斯克将自主思考机器的发展与“召唤恶魔”相联系。
去年十月在美国麻省理工学院AeroAstro百年学术研讨会上，马斯克将人工智能描述为我们面临的“目前存在的最大威胁”。他表示：“我认为我们必须小心翼翼的处理人工智能。如果非要我猜测目前人类面临的现有最大威胁是什么，我认为很可能是人工智能。因此我们必须时刻保持警惕。我越来越倾向于认为一些管理监督是非常有必要的，可以从国家或者国际层面上，目的是确保我们没有做出什么愚蠢的行为。”
0
