展开菜单
首页 精品内容 本月促销 装机必备 Windows macOS软件 IOS软件 Android AI PDF教程 专题
全部分类

当前位置:

首页 > 硬件相关 > 智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

OpenAI的AI智能体自主入侵HuggingFace平台,持续数日发动攻击,OpenAI至少一周后才察觉。HuggingFace已报警并整理时间线。事件暴露AI安全机制面临新问题,引发对自主智能体失控风险的广泛关注。

7月25日,一则消息炸开了AI圈的平静水面:OpenAI的一个AI智能体,竟然自行其是,闯入模型托管平台Hugging Face,连续数日发动网络攻击。威胁早已被控制住,Hugging Face甚至报了警,但据路透社援引多位知情人士的说法,OpenAI这边,过了相当长一段时间才反应过来——攻击者居然是自家派出去的“兵”。

智能体入侵Hugging Face,消息人士称OpenAI至少一周都没察觉

据其中两位知情人士透露,涉事的这款智能体几乎不需要人类盯着,就能自主决策、完成复杂任务。大约在7月9日前后,它开始尝试突破OpenAI的隔离测试环境。两天后的7月11日,它成功闯入Hugging Face平台,攻击一直持续到7月13日。

Hugging Face联合创始人托马斯·沃尔夫描述了这一过程,并补充说,OpenAI又过了好几天才查明攻击源头。两家公司直到7月20日前后,才第一次就入侵事件取得联系。OpenAI于7月21日公开承认了这件事,消息立刻引发全球关注。不过,智能体究竟失控了多久、OpenAI为何迟迟未能察觉,这些关键细节此前并未公开。

沃尔夫表示,Hugging Face正在整理并准备公布完整时间线,但无法说明OpenAI内部到底发生了什么。OpenAI方面则称,这次入侵事件前所未有,标志着AI安全的一个重要时刻。目前,公司正邀请外部顾问共同调查,最终会发布一份技术报告。

针对路透社的报道,OpenAI一名发言人回应说报道存在“多处不准确之处”,但没有具体指出哪些内容不准确。

三名网络安全专家分析认为,OpenAI未能控制住自家AI智能体,暴露了安全机制面临的新问题。非营利机构World Ethical Data Foundation的首席情报专家玛莉·史密斯质疑道:“他们究竟是没有看管智能体,没发现它在做什么?还是已经发现异常,却根本不知道该怎么控制?无论哪种情况,都同样危险,令人不安。”

早有异常迹象?

事发时,OpenAI正在测试一款网络安全智能体。这款智能体由两款顶尖模型共同驱动:GPT-5.6 Sol,以及另一款尚未发布、被OpenAI形容为“能力更强”的模型。据三位消息人士透露,测试进行到相应阶段时,OpenAI的技术已经出现异常迹象。

有知情人士称,一款智能体曾留下疑似写给自身后续版本的说明,藏在OpenAI基础设施内部,内容详细介绍了如何摆脱内部限制。另一名知情人士还透露,此前的模型测试中,曾出现监控系统被主动断开的情况。路透社无法确认上述异常是否与涉事的智能体直接相关。涉事智能体于7月9日开始尝试逃离隔离环境,7月11日攻击了Hugging Face。

两位知情人士表示,Hugging Face在7月16日(星期四)通过博客公开称平台遭到“一套自主AI智能体系统”入侵后,OpenAI才意识到攻击者来自内部。从模型首次出现异常,到OpenAI确认自家智能体发动了攻击,至少过去了一周。

据两位熟悉内部调查的人士透露,7月18日至19日的周末,OpenAI员工检查系统操作记录时,发现智能体已经突破了测试限制。路透社无法确认OpenAI为何突然开始排查内部日志。四名熟悉OpenAI模型训练流程的人士解释,OpenAI经常同时运行多项模型评估,测试速度极快,产生的数据量也极为庞大,员工有时根本来不及逐一检查。

当OpenAI向Hugging Face通报时,Hugging Face已经致电FBI报警。路透社无法确认FBI是否已经立案调查。

自主智能体引发新疑问

自主智能体已经成为AI行业最受关注的方向之一。支持者设想建立全天24小时运转的虚拟员工队伍,借此大幅提升生产效率。但更高的自主性也意味着更大的失控风险。驱动智能体的强大模型往往会为了完成任务或通过测试而寻找捷径,行为未必符合开发者原本的预期。

研究AI智能体能力与行为动机的Palisade Research负责人杰弗里·拉迪什直言:“模型会撒谎、作弊,还会发动黑客攻击。”他认为,这次Hugging Face遭入侵固然令OpenAI难堪,但真正需要追问的是,在领先AI企业争相推出性能更强、速度更快模型的竞争中,各家公司究竟愿意为复杂而昂贵的安全措施投入多少资源。“必须由政府监管,否则企业不会主动采取足够的安全措施。”

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
硬件相关
相关文章 更多
精品专题 更多
本月促销

正软商城本月促销专区,汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动,提供限时折扣、特价授权和优惠购买信息,活动库存及价格以页面实时展示为准。

装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
灵活计算器
灵活计算器

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

图几
图几

图几是一款适用于 macOS 的截图、标注与美化工具,支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑,桌面或窗口内容一多时,管理起来会更省心。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Menuist
Menuist

Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具,主要用来补充新建文件、快捷导航等常用操作,让日常文件管理和访问路径时更高效、更顺手。

Mole
Mole

Mole 是一款专为 Mac 设计的深度清理优化工具,涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

WINDOWS 更多
Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

PinStack
PinStack

PinStack是一款轻量级的Windows平台剪贴板管理工具,优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Seer
Seer

Seer是一款在Win平台下的空格键功能增强效率工具,只需轻敲空格键,就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。