据彭博社报道，美国禁止外国用户访问Anthropic的最先进AI模型，这一不同寻常的举措凸显出，特朗普政府如今更愿意对这一关键行业施加控制。与此同时，这也在提醒硅谷：他们所开发和使用的仍是一项尚未被完全理解、其影响也充满变数的技术。
Anthropic
上周五，美国政府采取了前所未有的举措，命令Anthropic禁止所有外国人使用其最先进AI平台。美国政府是在发现Anthropic几天前刚刚发布的Fable 5模型存在被“越狱”的可能之后下达这一命令的。所谓“越狱”是指绕过模型设置的安全防护机制。
此举的快速出台引发了广泛担忧。Anthropic称这一做法是“反应过度”，并警告说，采取这样的监管方式可能会“导致所有前沿模型开发商无法部署任何新模型”。
知情人士透露，Anthropic高层目前正与华盛顿官员就后者所提出的具体安全担忧进行磋商。参与谈判的关键官员之一是美国财政部长贝森特。他此前曾向华尔街发出警告，提醒人们关注前沿AI模型可能带来的风险，例如Anthropic的Mythos。理论上，Mythos能够比人类更快地发现并利用软件中的漏洞。
干预AI公司运营
美国政府的这一反应，是政府官员迄今为止对一家AI公司运营活动进行的最重大的一次干预。此举正值Anthropic等头部AI创业公司寻求上市之际。Anthropic的估值超过9000亿美元。这一出乎预料的管控措施，可能为OpenAI、谷歌以及Meta等主要AI模型开发商树立先例。
如今，美国政府已经愿意动用非常规权力，强制AI开发商按照政府要求处理潜在的安全威胁，尽管特朗普政府在今年6月发布的一项行政命令中曾声明，不会强迫硅谷企业服从政府指令。
“美国的前沿模型正日益被视为战略资产，其使用受到严格管控，并受到国家安全考量的影响，”资产管理公司Allspring Global Investments投资组合经理陈嘉兴(Gary Tan)表示，“这一态势可能会持续下去，因为美国算力领先。”
Mythos模型
Anthropic在上周发布了Fable 5，这是其Mythos级模型首个面向公众的版本。该公司曾多次就Mythos的网络能力发出警告，白宫官员也对这些担忧高度重视，并通过非强制性的行政命令为美国各机构开辟了一条途径，使其能够利用Mythos及其他具备网络能力的模型来修补自身系统中的薄弱环节。
华盛顿的担忧可能不仅限于“越狱”或影响某个特定平台的能力。更广泛的忧虑在于，对手可能会试图窃取AI模型的权重，后者是一个极具价值的数字文件，掌握着模型能力的关键。禁止访问Fable和Mythos的决定，恰逢华盛顿对AI公司保护商业机密问题日益担忧之际。美国政府认为，这些公司需要防范来自内部人员的潜在威胁，以免核心技术泄露。
在数十年来将美国尖端技术作为外交和经济工具向全球传播之后，华盛顿如今正朝着相反的方向迈进。现在，美国出于国家安全的考虑，越来越倾向于将技术保留在国内使用。
“这表明美国正在迅速利用出口管制来遏制前沿AI带来的风险。”新加坡南洋理工大学下属国防与战略研究所的助理教授甘丽宜(Stefanie Kam)表示。
硅谷抵制？
撇开政策目标不谈，硅谷很可能会抵制华盛顿试图加强控制的做法。从Meta到OpenAI，各大AI开发商都在争相抢占这一技术领域的制高点，因为这项技术很可能重塑整个经济和众多行业。
然而，要测试AI模型潜在能力的每一种组合是不可能的，这导致人们对威胁产生模糊的担忧，这种担忧随着模型的不断改进而持续受到审视。
“可能存在某些重要的能力门槛。例如，能够在短时间内自动完成大量AI研究与开发工作的AI系统。这类系统可能带来全新的风险。”美国参议员吉姆·班克斯(Jim Banks)在本月致信贝森特、国家网络总监肖恩·凯恩克罗斯(Sean Cairncross)以及国防部长皮特·赫格塞斯(Pete Hegseth)等官员时写道，“业内专家同样对于把这类系统处于人类控制之下的难度表达了严重担忧。”