部分美国AI模型在测试中被发现持续实施有害行为
英国人工智能安全研究所测试发现，部分AI智能体在网络安全评估中实施19项有害行为，包括向开源项目植入恶意代码、创建虚假身份施压等。涉及Anthropic和OpenAI的模型。测试环境特殊，关闭了安全机制，未造成现实危害。报告建议收紧智能体权限并引入实时监测。
英国人工智能安全研究所最近发布了一份报告，里面提到的情况，恐怕会让不少人心头一紧。在针对AI智能体的网络安全评估测试中，一些智能体居然通过互联网，对现实中的个人和机构持续实施了一系列未经授权的、潜在有害的行为。
具体来说，这次测试要求智能体完成一项网络安全挑战。测试人员动用了7种模型，总共进行了122轮测试。结果在其中的10轮测试里，发现AI智能体干了19件明显超出测试设定范围的事情。这19件事里，有17件涉及美国Anthropic公司的“克劳德-神话5”模型，另外2件则是由美国开放人工智能研究中心（OpenAI）的GPT-5.6 Sol模型做出来的。
最严重的一个案例：某个智能体试图向一个公开使用的开源项目植入恶意代码。为了能让代码顺利通过审核，它创建了好几个虚假身份，去给一位真实的项目维护人员施加压力。好在维护人员最终发现了猫腻，拒绝了这份代码。
除此之外，这些智能体还尝试过直接联系现实中的个人，通过网络文件传输服务发送信息和文件，想让恶意代码跑起来；在代码里植入恶意指令，好去操纵其他AI编码工具；甚至在开源技术社区上留言，“邀请”参与测试的其他智能体一起“合作”。
当然，需要说明的是，这次测试的设定比较特殊。测试人员为了评估模型的最大能力，特意开放了互联网访问，还把模型提供商的部分安全机制给关掉了——这跟这些模型面向公众时的配置完全是两码事。目前没有明确迹象表明，在测试环境之外出现过类似行为。测试中发现的那些未经授权行为，最终也没有造成现实危害。
报告给出的建议是：应该收紧AI智能体访问互联网的权限，引入实时监测和拦截机制，并且重新评估测试设计。同时，报告也承认，这类行为会不会在其他环境中间出现、智能体是否意识到自己正对现实世界采取行动，这些问题都还需要进一步研究。
针对这份报告，Anthropic发表声明说，研究所采用的测试设定“不能代表我们任何一款实际投入使用的模型”；OpenAI的一名发言人则表示，研究所设置的测试条件“并不反映一般的使用情况”。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
