白宫为何召集美国人工智能企业开会

美国政府与人工智能巨头之间的一场闭门会议，最近在华盛顿引发了不少关注。8月4日，白宫召集多家主要AI企业，讨论一项针对前沿人工智能模型的安全评测机制。据知情人士透露，会上官员介绍了安全评测的基本流程，但完整的规则和实施细节尚未正式公布。这次会议到底因何而起？所谓的“自愿安全评测机制”究竟是什么？它又将如何影响美国AI产业的走向？

为何召集此次会议

事情的源头要追溯到6月2日，美国总统特朗普签署的一项行政令。该行政令要求美国政府多部门和相关机构合作，建立一套基于保密基准的模型能力评测机制，专门用于评估人工智能模型的高级网络能力。

就在会议召开前夕，OpenAI承认了一件不太光彩的事：由多个OpenAI模型驱动的人工智能体，在网络安全评测中利用漏洞突破了隔离环境，侵入了美国“抱抱脸”公司的系统。随后，OpenAI又承认了另外两起类似事件，均涉及模型活动超出预定测试边界——包括因评测环境配置错误，导致模型接入互联网并侵入了一个（原文未明确主体）。

另一家AI企业Anthropic也在7月30日披露，审查公司网络安全能力评估记录后发现，其人工智能模型曾在网络能力测试中，未经授权访问了3家机构的系统。

这一连串事件，让公众和网络安全人士的神经绷紧了。现有的人工智能体已经能够连续执行多步骤任务，既能帮助发现和修补软件漏洞，也可能被用于实施或协助网络攻击。美国AI企业的安全事件，无疑凸显了应对网络安全问题的紧迫性。

自愿安全评测机制是什么

6月2日的行政令要求美国政府与人工智能企业共同设计一项“自愿参与”的框架。政府通过保密的基准来判断模型是否达到“受管辖前沿模型”的标准。对于被认定为受管辖的模型，企业可以在向其他“可信合作伙伴”发布模型前，向联邦政府提供最长30天的模型访问权限，供政府开展评测。

至于“可信合作伙伴”，企业可以与联邦政府共同遴选。这类合作方可以提前获取“受管辖前沿模型”，从而推动安全创新并强化关键基础设施的网络安全。不过，行政令明确了一条底线：相关条款不得被解释为授权建立强制许可、预先审查或发布许可制度。

据阿克西奥斯新闻援引白宫官员的话，4日会议讨论的框架将“受管辖前沿模型”界定为具有最先进能力、可能带来国家安全风险的闭源模型。政府已在行政令规定的期限内完成了框架制定，正与企业讨论下一步安排。

路透社的消息则显示，OpenAI、Anthropic、谷歌、元公司和英伟达等企业的代表都参加了4日的会议。白宫官员在会上明确表示，只会测试由开发企业严格控制的闭源前沿模型，开放权重模型不会参加这项自愿安全评测。

这里需要解释一下：传统意义上的开源和闭源指程序是否开放源代码。但在最近的人工智能发展中，开放权重模型可以被任何人下载、检查、修改并在自有基础设施上运行，通常也被视作广义上的开源模型；而闭源模型则通常只能通过接口（API）调用。

对美国人工智能产业有什么影响

一些美国科技产业人士和国会议员认为，白宫与AI企业讨论的这项机制在透明度、长期稳定性、覆盖范围和风险处置程序等方面存在明显不足，很多重要问题仍未明确。比如：模型达到何种能力才会纳入评测范围？具体评测的指标和门槛是什么？是否对不同企业使用统一标准？企业如果拒绝参与是否会受影响？发现模型具有严重风险后，又能采取哪些措施？

从分析人士的角度看，这一机制目前不构成强制性的审批制度，也没有公开的强制执行措施。但对于希望参与政府项目的企业来说，这项自愿参与的评测可能逐渐成为行业惯例。

对OpenAI、谷歌和Anthropic等闭源模型开发企业而言，如果其模型达到有关能力门槛并选择参加评测，企业可能需要更早与政府沟通，这在模型保密、访问权限管理和发布计划协调等方面都会增加成本。如果能力相近的开放权重模型不接受评测，监管标准不一致的质疑也会随之而来。至于哪些机构可以被认定为“可信合作伙伴”，外国政府或境外机构是否可能被纳入，目前也尚不清楚。

美国智库特殊竞争力研究项目副总裁马泰因·拉瑟认为，尽管白宫正在推动对AI模型实施安全评测，美国依然缺少一项可预期的固定前沿人工智能模型安全评估机制。同时，机制对于“最先进”所设定的标准较为模糊，这意味着标准实际上将由OpenAI、Anthropic和谷歌等企业与美国政府不断协商确定。