展开菜单
首页 精品内容 本月促销 装机必备 Windows macOS软件 IOS软件 Android AI PDF教程 专题
全部分类

当前位置:

首页 > 硬件相关 > 白宫为何召集美国人工智能企业开会

白宫为何召集美国人工智能企业开会

美国政府于8月4日召集多家AI企业讨论自愿安全评测机制,针对闭源前沿模型进行安全评估。该机制源于行政令,旨在应对AI安全事件频发。企业参与需提供模型访问权限,但规则细节待定,可能增加企业成本并引发监管标准争议。

美国政府与人工智能巨头之间的一场闭门会议,最近在华盛顿引发了不少关注。8月4日,白宫召集多家主要AI企业,讨论一项针对前沿人工智能模型的安全评测机制。据知情人士透露,会上官员介绍了安全评测的基本流程,但完整的规则和实施细节尚未正式公布。这次会议到底因何而起?所谓的“自愿安全评测机制”究竟是什么?它又将如何影响美国AI产业的走向?

为何召集此次会议

事情的源头要追溯到6月2日,美国总统特朗普签署的一项行政令。该行政令要求美国政府多部门和相关机构合作,建立一套基于保密基准的模型能力评测机制,专门用于评估人工智能模型的高级网络能力。

就在会议召开前夕,OpenAI承认了一件不太光彩的事:由多个OpenAI模型驱动的人工智能体,在网络安全评测中利用漏洞突破了隔离环境,侵入了美国“抱抱脸”公司的系统。随后,OpenAI又承认了另外两起类似事件,均涉及模型活动超出预定测试边界——包括因评测环境配置错误,导致模型接入互联网并侵入了一个(原文未明确主体)。

另一家AI企业Anthropic也在7月30日披露,审查公司网络安全能力评估记录后发现,其人工智能模型曾在网络能力测试中,未经授权访问了3家机构的系统。

这一连串事件,让公众和网络安全人士的神经绷紧了。现有的人工智能体已经能够连续执行多步骤任务,既能帮助发现和修补软件漏洞,也可能被用于实施或协助网络攻击。美国AI企业的安全事件,无疑凸显了应对网络安全问题的紧迫性。

自愿安全评测机制是什么

6月2日的行政令要求美国政府与人工智能企业共同设计一项“自愿参与”的框架。政府通过保密的基准来判断模型是否达到“受管辖前沿模型”的标准。对于被认定为受管辖的模型,企业可以在向其他“可信合作伙伴”发布模型前,向联邦政府提供最长30天的模型访问权限,供政府开展评测。

至于“可信合作伙伴”,企业可以与联邦政府共同遴选。这类合作方可以提前获取“受管辖前沿模型”,从而推动安全创新并强化关键基础设施的网络安全。不过,行政令明确了一条底线:相关条款不得被解释为授权建立强制许可、预先审查或发布许可制度。

据阿克西奥斯新闻援引白宫官员的话,4日会议讨论的框架将“受管辖前沿模型”界定为具有最先进能力、可能带来国家安全风险的闭源模型。政府已在行政令规定的期限内完成了框架制定,正与企业讨论下一步安排。

路透社的消息则显示,OpenAI、Anthropic、谷歌、元公司和英伟达等企业的代表都参加了4日的会议。白宫官员在会上明确表示,只会测试由开发企业严格控制的闭源前沿模型,开放权重模型不会参加这项自愿安全评测。

这里需要解释一下:传统意义上的开源和闭源指程序是否开放源代码。但在最近的人工智能发展中,开放权重模型可以被任何人下载、检查、修改并在自有基础设施上运行,通常也被视作广义上的开源模型;而闭源模型则通常只能通过接口(API)调用。

对美国人工智能产业有什么影响

一些美国科技产业人士和国会议员认为,白宫与AI企业讨论的这项机制在透明度、长期稳定性、覆盖范围和风险处置程序等方面存在明显不足,很多重要问题仍未明确。比如:模型达到何种能力才会纳入评测范围?具体评测的指标和门槛是什么?是否对不同企业使用统一标准?企业如果拒绝参与是否会受影响?发现模型具有严重风险后,又能采取哪些措施?

从分析人士的角度看,这一机制目前不构成强制性的审批制度,也没有公开的强制执行措施。但对于希望参与政府项目的企业来说,这项自愿参与的评测可能逐渐成为行业惯例。

对OpenAI、谷歌和Anthropic等闭源模型开发企业而言,如果其模型达到有关能力门槛并选择参加评测,企业可能需要更早与政府沟通,这在模型保密、访问权限管理和发布计划协调等方面都会增加成本。如果能力相近的开放权重模型不接受评测,监管标准不一致的质疑也会随之而来。至于哪些机构可以被认定为“可信合作伙伴”,外国政府或境外机构是否可能被纳入,目前也尚不清楚。

美国智库特殊竞争力研究项目副总裁马泰因·拉瑟认为,尽管白宫正在推动对AI模型实施安全评测,美国依然缺少一项可预期的固定前沿人工智能模型安全评估机制。同时,机制对于“最先进”所设定的标准较为模糊,这意味着标准实际上将由OpenAI、Anthropic和谷歌等企业与美国政府不断协商确定。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
硬件相关 人工智能
相关文章 更多
精品专题 更多
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

PDF教程

PDF教程适合刚接触PDF文件的用户,本文整理PDF打开、编辑、转换、合并、压缩等常见基础操作。通过这些教程可以快速了解PDF文件怎么处理,解决办公、学习和资料科整理中的常见问题。使用极轻PDF可在线完成多种PDF操作,适合新手快速上手。

Mac软件 更多
灵活计算器
灵活计算器

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

图几
图几

图几是一款适用于 macOS 的截图、标注与美化工具,支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑,桌面或窗口内容一多时,管理起来会更省心。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Menuist
Menuist

Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具,主要用来补充新建文件、快捷导航等常用操作,让日常文件管理和访问路径时更高效、更顺手。

Mole
Mole

Mole 是一款专为 Mac 设计的深度清理优化工具,涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

WINDOWS 更多
Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

PinStack
PinStack

PinStack是一款轻量级的Windows平台剪贴板管理工具,优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Seer
Seer

Seer是一款在Win平台下的空格键功能增强效率工具,只需轻敲空格键,就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。