【文/本报 熊超然】
对于美国人工智能(AI)初创企业Anthropic,继今年2月在联邦范围内发布“禁用指令”之后,特朗普政府再出重拳,对该公司旗下最先进的两款AI模型发布出口管制。
在事件发酵数日后,当地时间6月13日,美国“政客新闻网”援引两名政府官员和一名白宫高级官员披露称,特朗普政府决定对Anthropic实施全面出口管制之前,高级官员曾展开了一场长达24小时的紧急行动,试图说服该公司主动撤回一款刚发布不久的AI模型,因为官员们认为,该模型存在安全风险。
新实施的出口管制迫使Anthropic撤回了其新的AI模型Claude Fable 5,而这距离该模型向公众发布仅过去数日。Anthropic曾保证该模型是安全的,但在发布后不久,政府高层官员便产生了新的疑虑,怀疑该AI模型的安全防护机制(guardrails)并不像其公司声称的那样稳固。
据上述消息人士透露,在该模型公开发布两天后,即当地时间6月11日,亚马逊首席执行官安迪·贾西(Andy Jassy)向白宫表达了担忧,认为该模型的安全防护机制有可能被绕过。
今年4月17日,Anthropic首席执行官达里奥·阿莫迪被拍到现身白宫。 路透社
一名了解亚马逊公司与政府讨论情况的人士表示,作为Anthropic的投资方,亚马逊当时是在回应特朗普政府要求提供反馈的请求。当地时间6月10日,相关安全问题已引起白宫最高层的关注。
报道称,这一事件发生在Anthropic首席执行官达里奥·阿莫迪(Dario Amodei),与包括美国财政部长贝森特及白宫国家网络总监(ONCD)肖恩·凯恩克罗斯(Sean Cairncross)在内的政府官员进行多次紧张通话后,这反映出白宫正实时应对如何监管发展迅速且可能具有危险性的AI模型。
消息人士透露,贝森特、凯恩克罗斯、白宫办公厅主任威尔斯及其他高级官员举行了会议,讨论Claude Fable 5模型及政府的应对措施。
会议结束后,政府方面试图联系阿莫迪,但被告知他因参加一场健康疗养活动而无法接听电话。 Anthropic方面的发言人则否认了这一说法,并坚称:“这完全是假的。”
起初,Anthropic安排了其他高管代为沟通,而当政府方面最终联系上阿莫迪时,他参与了三次通话,通话对象包括约六名政府高层官员,其中就包括凯恩克罗斯、贝森特和美国商务部长卢特尼克。
通话期间,阿莫迪试图澄清他认为存在的误解。他反驳了政府方面的担忧,为模型的安全防护机制作了辩护,并坚称发生的所谓“绕过方式”是特定情形下的个案,并不是一种更广泛意义上的“越狱(jailbreak)”,即用户能完全绕过Anthropic设置的所有安全防护措施。
然而,凯恩克罗斯和贝森特并未被阿莫迪的论点说服。一名白宫官员表示,他们已将亚马逊的调查结果提交给美国国家安全局(NSA)审阅,并认为他们掌握了确凿的“证据”。
据报道,白宫方面曾敦促Anthropic主动下架模型,并配合政府解决其中的漏洞,而阿莫迪则请求给予更多时间和信息,但并未承诺下架模型,以至于贝森特据称甚至一度直言阿莫迪正做出“错误的决定”。
Anthropic方面称,在通话结束后不久,特朗普政府便援引国家安全相关权力,对Claude Fable 5和Claude Mythos 5两款模型实施了出口管制,并禁止外国公民使用这些模型。该公司表示,这项命令的“实际效果”是,为确保合规,公司不得不“突然关闭”所有客户对这些模型的访问。
“在苦劝他们与我们合作数小时无果后,实施出口管制已是不得已的最后手段。”一名白宫高级官员说道:“我们本不愿这么做,但当时已别无选择。”然而,一名接近Anthropic的人士,否认该公司曾被给予主动与政府合作的选项。
白宫高级官员透露,白宫方面曾听闻阿莫迪将Anthropic技术的危险性比作核弹,因此当这位首席执行官表示不愿下架系统以修复已知安全漏洞时,他们感到十分不解。在业内,Anthropic一向标榜自己是AI监管的积极倡导者,主张应对AI飞速发展带来的巨大全球安全风险及就业冲击。


