AI可能消灭人类？Anthropic研究人员发警告

多年来，人工智能行业竞相以最快速度改进其技术。如今，一些研究人员正日益就放慢速度的必要性发出警告。

曾任职于OpenAI的Anthropic研究人员雅各布·考克森周二表示，他已从Anthropic辞职，因为“两家公司都没有负责任地行事”。他在一则社交媒体帖子中说道，这两家领先的人工智能实验室正在急切地构建“能够侵入任何地方、一夜之间彻底改变任何领域、并获取真正权力和资源的超人系统”，却没有内置适当的保障措施。

考克森的警告呼应了其他人工智能专家近几个月表达的担忧。一些人工智能领导人长期以来一直认为，如果放任不管，这项技术可能制造末日情景。在OpenAI的模型于7月突破其系统并入侵Hugging Face（一个人工智能模型库）之后，他们的担忧加剧了。

同月，包括Anthropic、OpenAI、Meta和谷歌DeepMind在内的顶级人工智能公司的1300多名员工签署了一封公开信，呼吁美国政府制定规则以放慢人工智能发展。8月，超过100家大型科技公司承诺向医院和基础设施提供商等组织提供其最好的人工智能模型，以便它们能够为人工智能驱动的网络攻击做好准备。

OpenAI上个月还表示，将扩大安全测试，并延缓新模型Astra的发布，该模型具有强大的网络安全能力。

考克森周三接受采访时表示，像Hugging Face被入侵这样的事件加剧了他的担忧，即人工智能模型推进得太快。当他展望一两年后，他“发自内心地担心事情会变成什么样”，考克森说。“这主要是一个逐渐累积的情绪过程，最终有点像是崩了，于是我决定离开。”

一些批评者认为，人工智能公司夸大了这项技术，以使其产品显得更有价值。然而，几位议员周三表示，他们正在认真对待考克森的警告。

“急切奔向超级智能会带来深远的后果，”佛罗里达州共和党众议员安娜·保利娜·卢纳在一则社交媒体帖子中写道，她在帖子中呼吁国会召开一次专注于人工智能监管的特别会议。“国会对此关注得不够。”

“安全研究员正在辞职，强大的人工智能模型正在突破其实验室，而企业仍然不管不顾地竞相前进，”马萨诸塞州民主党众议员洛里·特拉汉在社交媒体发帖写道。“国会早就该停止袖手旁观，开始做好自己的分内事了。”

尽管领先的人工智能实验室一致认为，政府应该对这项技术开发和向公众发布的速度施加限制，但许多公司正在激烈竞逐，并担心一旦停下来就会落后于对手。

“他们陷入了一场争当第一的竞赛——他们相信没有谁会负责任地行事，所以他们必须自己来做，尽管有风险，”考克森在他的社交媒体帖子中说道。

至少有一名Anthropic员工同意考克森的评估。

“我们确实真心相信人工智能可能杀死全人类！”埃文·胡宾格在社交媒体上写道，他在Anthropic工作，致力于创建与人类伦理和价值观对齐的人工智能。胡宾格表示，他相信人工智能消灭人类的风险在未来十年内超过10%。

“我相信Anthropic正在尽力而为，但我们还没有解决超级智能对齐问题的计划，也没有找到明确的解决路径，”他补充道。

一位Anthropic发言人周三表示，该公司长期以来一直对人工智能的好处和风险保持透明，并且正在构建拥有业内最强保障措施的模型。

“我们相信，如果整个行业采用一种合法、可验证的方式共同协作，来调节我们发布强大模型的速度，世界将从中受益，”这位发言人说。

OpenAI没有立即回应就考克森言论置评的请求。胡宾格也没有立即回应置评请求。

（《纽约时报》已起诉OpenAI和微软，主张其与人工智能系统相关的新闻内容存在版权侵权。两家公司否认这些指控。）