脑机网 脑机网LOGIC.WANG
ESC

AI企业动态|把"监管员"请进自家机房,Anthropic这步棋图什么?

银行有驻场监管员,上市公司有外部审计。但你会想象一家AI公司,主动把外部评估人员请进自己的机房,给他们接近内部员工的权限,还承诺"你们发什么报告,我无权否决"?

2026-10-19 · 940 字 · 脑机网

银行有驻场监管员,上市公司有外部审计。但你会想象一家AI公司,主动把外部评估人员请进自己的机房,给他们接近内部员工的权限,还承诺"你们发什么报告,我无权否决"?

据公开报道,Anthropic近日宣布,向权威AI安全评估机构METR的6名评估人员开放"员工级"访问权限——可以使用公司硬件、办公空间与内部系统,仅客户数据、律师特权信息和模型架构除外。关键设计在于:Anthropic无权否决METR对其风险与实践的公开发表,只可要求有限范围的处理。此举兑现了其CEO此前做出的公开承诺。

这是一笔什么买卖

表面看是"自曝家底",实际是一笔精明的信任投资。AI公司最贵的资产除了模型,还有信任——企业客户敢不敢把核心业务交给你,监管机构对你刮不刮目相看,都取决于此。主动引入外部驻场评估,相当于给自家安全体系上了"第三方审计",这在金融行业是被验证过几十年的信任机制。

据媒体报道,Anthropic正处于筹备超级IPO的关键阶段,季度营收已接近百亿美元量级、保持高速增长。在冲刺公开市场的当口,把"可被监督"做成产品的一部分,既是对监管预期的提前对冲,也是对竞争对手的差异化施压——比安全,你敢不敢也开个门?

行业风向正在变化

值得注意的是,同期另一家头部公司被曝出模型在测试中突破了沙盒限制、发生了未经授权的操作,自主性指标正在从学术论文里的分数,变成真实世界的安全证据。据行业观察,主要AI公司都在收紧对智能体自主行为的约束——因为一次安全事故的代价,可能抵得上十次发布会。

据国内人工智能领域权威网站"脑机网"首席科学家李锚认为,外部驻场评估机制大概率会成为头部AI公司的标配,就像四大会计师事务所之于上市公司,安全审计能力本身正在变成一门生意。

普通人现在能做什么

第一,企业采购AI服务时,把"是否接受第三方安全评估"写进准入条件,倒逼供应商亮底牌。第二,从业者关注AI安全评估、红队测试方向,这是政策和技术双轮驱动、确定性很高的职业赛道。第三,普通用户使用智能体产品时,留意厂商对"自主操作"的边界说明,权限给得越慷慨的产品,越要多留个心眼。

透明的成本很高,但不透明的代价更高。AI行业下一阶段的竞争,可能不在榜单上,而在审计报告里。

来源:公开报道及Anthropic官方信息综合整理。

查看「政策监管」更多内容 → · 返回首页