人工智能(AI)专家们认为,面对3月13日李世石九段白第78手,AlphaGo走了一招“臭棋”,这表明机器学习目前还存在漏洞。
庆熙大学经营系教授李京全解释称,“AlphaGo的演算法(解决问题的程序)是在抽取候选群后,选择其中概率较大招数的方式”,“以之前学习的数据为基础抽取了候选群,应该是在这里出现了失误”。
然而,这不是设备或理论的缺陷,而是人工智能演算法中任何时候都有可能出现的现象。软件政策研究所所长金镇衡解释说,“由于AlphaGo以非全部调查的概率进行作业,这是理所当然可能发生的问题”,“比起失误或故障,将其视为人工智能模式识别演算法的局限性更为恰当”。接着他还补充说“即使是存在问题的臭棋,当时在AlphaGo的立场来看可能是最好的一招”。
之前出现的其他人工智能也出现过类似的失误。在谷歌的拍照应用“谷歌相机”中检索大猩猩会出现黑人女性的照片,这就是典型的例子。也就是说脸部识别人工智能演算法存在漏洞。问题是将人工智能用于医疗、无人驾驶汽车等时,人工智能的失误可能引发大型人员伤亡事故。
对此,DeepMind公司CEO杰米斯·哈萨比斯(Demis Hassabis)强调称,“AlphaGo是未达到试验版本的雏形(prototype,样本)”,“若要适用于医学,必须经过严格的测试和试验阶段”。
有人预测称,AlphaGo将在14日的一天内修正失误,棋艺将有爆发式的提高,全力以赴15日的对弈。然而,大多数人工智能专家们称因时间上的限制,AlphaGo不可能在一天内完成修复。
延世大学认知科学研究所所长(计算机科学系教授)赵诚培说,“AlphaGo的‘臭棋’是因为学习数据的量是有限的而产生的,对此必须给出更多的数据进行解决”,“AlphaGo很难在一天内自学如此多的数据”。接着他还补充道,“虽然人类可以操纵程序设定等,但如果突然更改最佳版本,结果可能更坏”。
人工智能专家们认为,15日的对弈中,AlphaGo为使招数变多,会在很多地方展开对战,而这对李世石九段是有利的。