警报拉响！强大到“比核弹还糟糕”的AI

本月，Anthropic公司向世界宣布，它已构建了一个强大到“太危险而无法广泛发布”的人工智能模型，并点名了11家合作伙伴来帮助构建防御体系。

这11家机构全部来自美国。

不到两周时间，这个名为Mythos的模型就引发了人工智能时代前所未有的全球争夺。Anthropic表示，Mythos拥有惊人的能力，能够发现并利用全球银行、电网和政府所依赖软件中的隐藏漏洞。它迅速成为一个地缘政治筹码——而握有这张牌的，是一家美国公司。

各国领导人都在努力评估这一安全风险的严重程度以及如何应对。目前，除了美国之外，Anthropic只与英国分享了Mythos。英国央行行长公开警告称，Anthropic可能已经找到了一种“把整个网络风险世界撕开”的方法。欧洲央行已开始私底下询问各银行的防御情况。加拿大财政部长则将这一威胁比作霍尔木兹海峡被关闭。

对于中国和俄罗斯等美国对手而言，Mythos凸显了在人工智能竞赛中落后的严重安全后果。一家亲克里姆林宫的俄罗斯媒体称该模型“比核弹还糟糕”。

这些反应印证了人工智能研究者长期以来主要在理论层面提出的警告：谁在构建最强大人工智能模型的竞赛中领先，谁就将获得巨大的地缘政治优势。重大的人工智能突破正在越来越不像产品发布，而更像武器试验。大多数国家都希望了解这些技术如何运作，以及需要什么样的防护措施。

随着基础人工智能“模型的影响力越来越大，对这些模型的取用权限也越来越具有地缘政治意义”，阿根廷前央行首席经济学家、现任美洲开发银行增长与人工智能区域顾问爱德华多·莱维·耶亚蒂表示。“我认为这一事件是一次政策上的警钟。各国政府不能再忽视这个问题了。”

即使是与Anthropic在人工智能军事应用问题上存在冲突的美国政府也注意到了Mythos。上周五，在川普政府内部有人得知新模型可能对计算机系统造成严重破坏后，Anthropic首席执行官达里奥·阿莫迪与白宫官员进行了会面。

Anthropic首席执行官达里奥·阿莫代伊周五与白宫官员进行了一场“富有成效”的会谈。 

总部位于旧金山的Anthropic公司告诉《纽约时报》，由于安全和安保方面的担忧，它将对Mythos的访问权限控制在很小范围内。公司目前重点与40多家为互联网、电网等全球关键基础设施提供技术的组织分享模型。Anthropic公布了其中11家机构的名单，包括亚马逊、苹果和微软，它们承诺帮助开发针对模型发现的漏洞的安全修复方案。

该公司表示，目前没有短时间内放开大范围访问权限的时间表，但将与美国政府和行业伙伴共同决定下一步行动。它还提到，自己已接到来自各国政府、企业和其他组织的密集来电，寻求获取模型或相关信息，但这些组织不一定具备对人工智能模型进行安全地评估的专业能力。

Anthropic补充称，它预计其他机构将在至少18个月内更广泛地发布具有类似网络能力的人工智能模型，留给各国组织修补必要安全漏洞的时间非常有限。

周二，Anthropic表示正在调查一则未经授权用户获取Mythos某一版本的报告。

Mythos引发的争夺发生在国际人工智能合作极度匮乏的时刻。各国政府在相互猜疑中注视着对方，而企业则在竞相超越对手。目前还没有类似于《核不扩散条约》的机制，没有共同的检查制度，也没有就如何处理类似Mythos的情况达成一致规则。

当Anthropic宣布该模型时，许多专家赞扬了公司在限制测试对象方面的谨慎态度，但同时对缺乏国际协调来应对风险表示担忧。

英国是美国以外唯一获得访问权限的国家。其政府支持的人工智能安全研究所对Mythos进行了测试，并于上周发布了一份独立评估报告，证实该模型能够执行此前任何人工智能模型都无法完成的复杂网络攻击。

“这代表了人工智能网络能力的升级，”英国人工智能与在线安全部长卡尼什卡·纳拉扬上周在社交媒体上表示，并称该国正在采取措施保护“关键国家基础设施”。

其他国家获得的信息则少得多。欧盟执行机构欧洲委员会的一名官员表示，自Mythos发布以来，欧盟已与Anthropic至少会面三次。但由于双方尚未就如何向委员会提供模型达成协议，该公司尚未给予访问权限。

自Mythos发布以来，欧盟执行机构欧盟委员会已与Anthropic至少会面三次。 

欧洲委员会在一份声明中表示，正在“评估Mythos可能产生的影响”，并称该模型“展现了前所未有的网络能力”。

德国联邦信息安全局局长克劳迪娅·普拉特纳表示，该机构尚未获得Mythos的访问权限，但她最近在旧金山与Anthropic员工会面，获得了“有意义的洞见”。她在一份声明中称，这些能力指向“网络威胁性质的范式转变”。

在美国对手中，反应相对低调。尽管Anthropic最近与川普政府存在冲突，但阿莫迪已明确表示，人工智能应当用于保卫美国和其他民主国家，并击败专制对手。

北京和莫斯科均未就Mythos发表重大公开声明。据研究中国科技界的分析师称，中国国内的研究人员和更广泛的人工智能社区一直在密切关注这一事件。中国许多银行、能源企业和政府机构所使用的软件，正是Mythos发现存在漏洞的那些软件——但目前，它们没有资格参与。

杭州的阿里巴巴创新园区。在中国国内，研究人员和更广泛的人工智能社区一直密切关注着

“对中国来说，我认为这是继ChatGPT之后的第二次警钟，”卡内基国际和平基金会高级研究员马特·希恩表示。他补充说，美国阻止中国获得用于构建先进人工智能系统的最尖端半导体，这一政策正在帮助美国扩大领先优势。

乔治·华盛顿大学政治学教授杰弗里·丁（音）表示，一些中国人工智能研究者私下表达了担忧，认为中国可能会进一步落后，错失率先构建基础模型所带来的优势。

中国驻华盛顿大使馆发言人刘鹏宇表示，中国对Mythos的具体细节并不熟悉，但支持和平、安全、开放的网络空间。

Mythos是全球人工智能鸿沟日益扩大的最新迹象。耶亚蒂表示，那些缺乏强大计算基础设施和人工智能模型的国家，可能会越来越依赖Anthropic、谷歌和OpenAI等公司，同时对这些产品的设计和防护方式几乎没有话语权。

“一家公司可以单方面根据不透明且无法上诉的标准来限制对前沿人工智能的访问，这种情况本身就应该引起真正的担忧，”他说道。