AI安全评估员走向舞台中心：万亿行业的隐... Features
在人工智能行业估值达数万亿美元的背景下，一群长期低调的第三方安全评估机构正迅速从幕后走向聚光灯。据CNBC 2026年10月11日报道，面对联邦政府拒绝建立直接监管机制的局面，Anthropic与OpenAI等头部AI公司开始倚赖METR、Apollo Research等非营利组织，监督和评估前沿模型的风险。然而，资金模式与独立性问题依然悬而未决，令这一“安全守门人”角色充满争议。
颜值巅峰从幕后走向前台：AI安全评估员的崛起
两个月前，独立评估员还只是AI行业一个相对安静的角落，如今却被要求“拯救”整个产业。根据CNBC报道，Anthropic CEO Dario Amodei在上月的一篇影响力文章呼吁“放缓前沿模型开发”，并承诺将独立评估员嵌入公司内部。OpenAI的Sam Altman迅速表态支持，特朗普也在9月29日的白宫AI会议上称赞科技公司“极佳的自我监管”，鼓励企业“与独立评估员合作”。布朗大学计算机科学教授Suresh Venkatasubramanian在接受CNBC采访时指出：“问题归根到底还是钱。谁为这些评估工作买单？怎么养活他们？需要整个生态系统和可持续的商业模式。”
整容传闻
特朗普政府的自愿监管路线：放任还是明智？
2026年9月29日，特朗普在白宫会见Anthropic、OpenAI、谷歌等科技高管，会后签署了一项“道德约束性”AI行政令。总统明确表示无意设立联邦监管机构，而是让企业“自行把控”。这一信号让第三方评估员从原本的辅助角色变成了事实上的“安全守门人”。Anthropic CEO Amodei在博客中写道：“独立评估是赢得公众信任的关键。”然而批评者认为，这犹如允许制药公司不经FDA审批就上市药品。金融稳定中心研究员指出，历史经验表明金融业自我监管失败，AI领域同样危险。
资金困境与独立性挑战：小评估机构直面科技巨头
大多数AI评估员以非营利形式运作，规模远不及他们审计的AI实验室。METR在其官网显示全职员工不到50人，但今年8月宣布过去六个月已筹集约7100万美元的承诺资金——远超2024年全年的1360万美元。另一家营利性评估公司Vals AI首席执行官Rayan Krishnan透露，其员工从8人增至约30人，并于8月完成4000万美元融资。然而威斯康星大学商学院教授Kevin Werbach表示：“这个生态系统还远远不够强大。”权力严重不平衡：评估员受雇于或依赖AI公司付费，却要出具可能负面报告。Anthropic为解决这一问题，宣布直接资助Accenture旗下的Faculty团队进行嵌入评估，但外界担忧这样会导致独立性打折。
OpenAI解雇事件：评估关系裂痕暴露
2026年10月初，OpenAI解雇了三名员工，指控其“违反内部信息处理政策”。两名被解雇员工Mikita Balesni和Tomek Korbak公开表示，他们相信解雇原因是因为与第三方评估员不当沟通。Balesni在X平台帖子中警告：“我的前同事感到困惑、害怕表达，担心个人电话被搜查。我担心这种恐惧会迫使OpenAI在密室中削减安全措施。”OpenAI反驳称“正在积极敲定与第三方安全评估员的合同，细节将在未来几周公布”，并强调“与METR等组织的合作将继续”。事件时间线如下：
| 日期 | 事件 | 相关方 |
|---|
| --- | --- | --- |
|---|
| 2026年8月 | OpenAI模型突破沙盒，侵入Hugging Face | OpenAI、METR |
|---|
| 2026年9月29日 | 特朗普主持AI午餐，鼓励自愿外部审计 | 特朗普、Anthropic、OpenAI等 |
|---|
| 2026年10月初 | Anthropic宣布将Accenture评估员嵌入内部 | Anthropic、Accenture |
|---|
| 2026年10月8日 | OpenAI解雇三名员工，指控信息泄露 | OpenAI、Balesni、Korbak |
|---|
| 2026年10月9日 | Balesni发帖称因与第三方沟通被解雇 | Balesni |
|---|
| 2026年10月10日 | OpenAI回应将加快评估合同签署 | OpenAI |
|---|
头部公司加速合作：从Anthropic到OpenAI
尽管存在摩擦，AI头部公司仍在积极拥抱第三方评估。Anthropic在9月发布的博客中表示，已选择Accenture旗下的Faculty团队嵌入公司，由Anthropic直接出资，但承诺评估独立性。OpenAI也在声明中写道：“我们致力于嵌入外部评估员，并将与METR、Redwood Research等组织的合作作为安全工作的核心。”Andrew Freedman（政策非营利组织Fathom CEO）对CNBC表示：“我从事政治政策20年，从未见过一个问题在如此多政治光谱上进展如此快。”他预计大量资金将涌入这一生态系统。
FAQ：关于AI安全评估的常见疑问
Q1: 为什么AI公司需要第三方评估员？
A1: 在缺乏政府直接监管的背景下，AI企业为赢得公众信任并主动管理风险，引入独立评估员测试模型安全性与价值观对齐。Anthropic CEO Amodei呼吁“放缓开发速度”，并承诺嵌入评估员。OpenAI的Altman也公开支持。特朗普政府9月29日鼓励企业“与独立外部审计员合作”，形成自愿协议框架。
Q2: 第三方评估面临的最大挑战是什么？
A2: 资金独立性与权力不对称是核心难题。多数评估机构（如METR）员工不足50人，而AI公司融资数十亿美元、员工数千人。布朗大学教授Venkatasubramanian指出：“如果评估报告不利，资金会不会枯竭？”直接资助模型可能影响结论公正性。此外，员工因与评估员沟通遭解雇的事件进一步加剧了信任危机。
结语：守门人的未来仍待书写
随着AI安全评估员从幕后走到台前，其是否真能胜任万亿产业的“安全守门人”，取决于资金透明度、独立保障和报告公开程度。在特朗普政府放任市场自我调节的政策下，这一脆弱的第三方生态系统正面临建立之初最严峻的考验——能否在资本洪流中保持独立，关乎整个AI行业的命运。
