OpenAI製作的ChatGPT为全球开创新局，不过近来共同创办人奥特曼（Sam Altman）频频示警AI可能带来的危险，该公司5日更表示，将建立一个新的研究团队，确保人工智慧继续保持对人类无害，最终将透过AI来监督AI自身的发展。
路透社报道，OpenAI共同创办人苏茨凯佛（Ilya Sutskever）与AI对齐负责人来克（Jan Leike）共同撰写一则贴文，以严重措辞警告，“超级智能的巨大能力，可能导致人类丧失权力，甚至可能导致人类灭绝”，“目前，我们对于控制一个潜在的超级智能AI还没有任何解方，也无法预防AI失控。”
文中预测，作为一个超越人类智能的系统，超级智能AI有可能在10年内诞生，人类需要比当前更厉害的技术来控制超级智能AI，代表必须在“对齐研究”上有所突破。文中指出，“对齐研究”是聚焦于确保AI如何持续对人类有益的研究。
由微软支持的OpenAI正投入20％的计算能力，预计在未来4年内解决这项问题，该公司正针对这项任务筹组一个新的研究团队。该团队的目标是打造一个“人类等级”的AI对齐研究员， 然后透过庞大的计算能力扩展它。
OpenAI表示，这代表将会以人类反馈的方式训练AI系统，训练AI系统协助人类评估，最终训练AI系统实际上进行研究“对齐研究”。
AI安全倡导者黎溪（Connor Leahy）指出，OpenAI的计划存在根本性缺陷，因为原始的人类等级人工智能在被迫解决AI安全问题前，可能就会失控并造成破坏。
AI的潜在危险一直是相关人员甚至一般大众担心的问题，一群AI界领袖和专家，包括特斯拉创办人马斯克在内，今年4月曾共同签署一封公开信，呼吁暂停开发比OpenAI“ChatGPT-4”更强大的系统，至少6个月的时间，理由是更先进的AI将可能对社会造成风险。
0
