许多人担忧 AI 技术被滥用，现在有一款名为 WormGPT 的“暗黑版本 ChatGPT”现身，具备生成式 AI 技术，藉由用户一句指令就能撰写恶意软件，外界担忧这恐怕成为黑客温床，使网络威胁大幅增加。
网络安全公司 SlashNext 近期发现 WormGPT 的存在，该开发人员表示这款程式是 ChatGPT 的替代品，协助你进行各种非法用途，任何与黑客相关的内容都能藉由 WormGPT 给予协助，更以每月 60 欧元或是每年 550 欧元的订阅模式，向黑客集团贩售。
据调查，WormGPT 是基于 2021 年发表的 GPT-J 语言模型所打造，并且透过一系列恶意软件的相关资料所训练而成。得以运用 Python 程式码编写恶意软体，或是撰写钓鱼 Email，还能提供相关的技术指导。SlashNext 研究人员实测以 WormGPT 撰写钓鱼邮件，不仅内容非常有说服力，设计的陷阱更是十分狡猾，显示该 AI 的危险性。
倘若使用 ChatGPT 进行非法用途，例如要求盗版内容，通常会被系统拒绝，本次现身的 WormGPT 却没有相关限制，凸显生成式 AI 技术存在的风险性，如何确保技术不会被滥用，并且遵守道德伦理？是目前科技界所关注的发展重点。
0
