权重站

白宫希望Anthropic阻止所有越狱行为。这可能无法实现。

发布时间:2026-06-24 22:18 来源: 阅读量:

特朗普政府与AI公司Anthropic在最先进AI模型Fable 5上的分歧正迅速激化。官员要求,若Anthropic想重新发布上周因“越狱”问题(通过提示绕过安全措施)而下架的Fable 5,需解决政府指控的漏洞。Anthropic认为担忧被夸大,周一技术会议仍坚持此立场。但政府指出,国家安全局(NSA)已证实存在绕过护栏的方法——这些护栏本用于防止用户访问模型中与网络安全、化学和生物相关的能力。

据知情人士透露,政府认为这是Anthropic的责任,需主动测试所有前沿AI模型并上报潜在越狱方法。但独立专家表示,AI护栏仅是权宜之计,难以长期防止熟练用户或未来模型的绕过行为,白宫要求或无法实现。

特朗普政府DNI提名引发争议:原代理候选人Bill Pulte因缺乏国家安全经验及争议指控遭两党反对,特朗普转而提名纽约南区检察官Jay Clayton为永久候选人。Gabbard原计划6月18日离职,Pulte拟6月19日上任,却因Clayton听证会可能提前至17日引发质疑。

周三,特朗普因与参议院共和党在阻挠议事规则上的冲突,宣布Clayton听证会无限期推迟,遭参议院反击称除非Clayton缺席或撤回提名,否则听证会将照常进行。机构员工不满Pulte急于获取DNI特权(安全人员、政府飞机出行)却不愿承担繁重工作,其对机构的不了解或对国家情报局造成重大打击。