美国找房通顶部广告合作
科技数码

Anthropic CEO呼吁放慢前沿AI推进,并承诺引入常驻外部评估者

美国找房通编辑部

Dario Amodei提出“为前沿能力设定节奏”的三步框架。Anthropic表示将邀请具备持续内部访问权限的第三方评估团队;行业与全球协调仍只是提案,并非已经达成的规则。
Anthropic CEO呼吁放慢前沿AI推进,并承诺引入常驻外部评估者 资料图
资料图:日本内阁官房 / Wikimedia Commons,CC BY 4.0;2025年Dario Amodei会面实拍,未修改。
素材与授权:原始素材页 · 许可与使用条件

美联社9月12日报道,Anthropic首席执行官Dario Amodei呼吁前沿人工智能行业放慢能力提升速度,让安全、评估和治理措施有时间跟上。他在个人网站发布的文章中强调,这不是停止模型训练,而是在能力继续进步的同时,为对齐、沙箱隔离、可解释性和第三方验证留出更多时间。

Amodei提出三步框架:第一步是让外部评估者长期进入前沿AI公司,核查安全实践、报告事故并评估训练流程;第二步是民主国家内的前沿公司在政府支持下形成共同安全标准;第三步才是寻求全球协调。只有第一步包含Anthropic自己的具体承诺,后两步仍需要企业和政府协作,尚未成为行业规则。

他还判断,如果发展速度不调整,未来6至12个月更强的代理群可能造成大规模网络风险。这是Amodei基于近期事件提出的风险预测,不是已经发生的事实,也没有独立证据证明该时间表必然实现。美联社报道还提到,OpenAI负责人对框架中的一部分表示支持;这不等于各公司已经就完整方案达成协议。

Anthropic称,拟邀请的外部团队将获得类似内部风险评估人员的持续访问条件,并可公开关键发现,但涉及安全、法律和第三方机密的内容可能被有限删节。配图由日本内阁官房拍摄,记录Amodei于2025年与日本首相高市早苗会面;它是人物资料图,不是本次声明发布现场。

原始来源:Associated Press:Amodei呼吁让AI安全措施赶上能力进展 · Dario Amodei原文:We Must Pace the Frontier · Axios:AI企业负责人回应前沿能力减速主张

本文为美国找房通根据可核验公开资料原创整理;媒体报道与主管部门已确认事实已在正文中分别说明。

文章中部广告合作