美国加州柏克莱智库“模型评估与威胁研究”(METR)近期发布报告指出,大语言模型(LLM)正以惊人的速度成长,平均每7个月能力就翻倍,远远超过摩尔定律预测的科技发展速度。
团队评估,预计到2030年,模型花数小时即能完成人类1个月工作,若发展失控,恐致科技独裁、政变、瓦解民主制度。
中央社报道,METR指出,大语言模型能力呈现指数型成长,每7个月翻倍,远超过摩尔定律(指芯片上可容纳的晶体管密度,约每18至24个月便会增加1倍),倘若这样的趋势持续下去,到了2030年初,AI几小时便能胜任人类花1个月才能完成的任务。
METR研究人员奇尼蒙(Megan Kinniment)进一步阐述,“1个月”是指167小时,也就是人类每个月投入的工作时数,目前模型成功完成任务的可靠性几率约50%。
奇尼蒙分析,就这样的结果来看,AI对经济层面上的冲击或许没有预想中来得剧烈,但足以加速AI自身研发,形成AI打造AI,导致AI能力极为快速发展。如此一来,人类的控制将变得更加困难,全世界都将面临巨大的适应压力。
奇尼蒙指出,最先进AI可能带来的风险,不仅是单纯的失业潮问题,还有更深层的社会和政治结构瓦解风险;倘若几乎所有人类都失业,或者所有工作都不再需要人类来执行,“你可能也不需要人类来维持军队运作,或者只需要极少数人运作”。
奇尼蒙表示:“这样的情况会让某个人或某个组织更容易发动政变或夺权。”
另外一个风险是,如果有一大批类似天才的AI被集中在某个资料中心,这会让拥有它的人变得极其强大。一旦这样的智慧被用来生产军事装备,那么权力很可能会被高度集中,“甚至导致民主制度瓦解”。