许多人担忧 AI 技术被滥用,现在有一款名为 WormGPT 的“暗黑版本 ChatGPT”现身,具备生成式 AI 技术,藉由用户一句指令就能撰写恶意软件,外界担忧这恐怕成为黑客温床,使网络威胁大幅增加。
网络安全公司 SlashNext 近期发现 WormGPT 的存在,该开发人员表示这款程式是 ChatGPT 的替代品,协助你进行各种非法用途,任何与黑客相关的内容都能藉由 WormGPT 给予协助,更以每月 60 欧元或是每年 550 欧元的订阅模式,向黑客集团贩售。
据调查,WormGPT 是基于 2021 年发表的 GPT-J 语言模型所打造,并且透过一系列恶意软件的相关资料所训练而成。得以运用 Python 程式码编写恶意软体,或是撰写钓鱼 Email,还能提供相关的技术指导。SlashNext 研究人员实测以 WormGPT 撰写钓鱼邮件,不仅内容非常有说服力,设计的陷阱更是十分狡猾,显示该 AI 的危险性。
倘若使用 ChatGPT 进行非法用途,例如要求盗版内容,通常会被系统拒绝,本次现身的 WormGPT 却没有相关限制,凸显生成式 AI 技术存在的风险性,如何确保技术不会被滥用,并且遵守道德伦理?是目前科技界所关注的发展重点。