全球首份《AI系统安全开发准则》发布，提出4方面安全监管要求
2023年11月26日，美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》，旨在实现保护人工智能模型不被恶意篡改，并敦促人工智能公司在开发或使用人工智能模型时更加关注“设计安全”。美国网络安全和基础设施安全局（CISA）作为主要参与方之一，表示世界正在经历AI技术快速发展的拐点，而AI技术很可能是当今最具影响力的技术。然而，确保网络安全是建立安全、可靠和值得信赖AI系统的关键。为此，我们联合了多个国家的网络安全监管部门，并与谷歌、亚马逊、OpenAI和微软等公司的
2023年11月26日 ，美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》，旨在实现保护人工智能模型不被恶意篡改，并敦促人工智能公司在开发或使用人工智能模型时更加关注“设计安全”。
美国网络安全和基础设施安全局（CISA）作为主要参与方之一，表示世界正在经历AI技术快速发展的拐点，而AI技术很可能是当今最具影响力的技术。然而，确保网络安全是建立安全、可靠和值得信赖AI系统的关键。为此，我们联合了多个国家的网络安全监管部门，并与谷歌、亚马逊、OpenAI和微软等公司的技术专家合作，共同编写并发布了这份准则，旨在提高AI技术应用的安全性
据了解，这份准则是全球第一份由官方机构发布的针对AI系统开发安全的指导文件。准则明确要求AI企业必须优先考虑为客户确保安全结果，积极倡导AI应用的透明度和问责机制，并以保障安全设计为首要任务来构建组织的管理结构。准则旨在提高AI的网络安全性，有助于确保安全地设计、开发和部署AI技术。
除此之外，根据美国政府一直以来在网络安全风险管理方面的经验，准则要求所有AI研发公司在公开发布新的AI工具之前必须进行充分的测试，确保已经采取了安全措施以尽量减少社会危害（如偏见和歧视）和隐私问题。准则还要求AI研发公司承诺，通过漏洞悬赏系统，方便第三方发现和报告其AI系统中的漏洞，以便快速发现和修复漏洞
具体而言，此次发布的准则为AI系统安全开发提出了4大方面的监管要求：
1、要优先考虑“设计安全”和“默认安全”
AI开发公司在准则中多次强调了“设计安全”和“默认安全”原则。这意味着他们应该积极采取措施，保护AI产品不受攻击。为了遵守准则，AI开发人员应该在决策过程中优先考虑安全性，而不仅仅是关注产品功能和性能。准则还建议产品提供最安全的默认应用选项，并向用户清楚传达替代该默认配置的风险。此外，根据准则要求，AI系统的开发人员应该为下游的应用结果负责，而不是依赖客户来控制安全
要求摘录：“用户（无论是‘最终用户’还是整合外部AI组件的提供商）通常缺乏足够的可见性及专业知识来充分了解、评估或解决与他们正在使用的AI系统相关的风险。因此，根据‘设计安全’原则，AI组件的提供商应该对供应链下游用户的安全后果负责。”
2、密切关注复杂的供应链安全
AI工具开发人员在设计自己的产品时常依赖第三方组件，比如基础模型、训练数据集和API。庞大的供应商网络会给AI系统带来更大的攻击面，其中任何一个薄弱环节都可能会对产品的安全性产生负面影响。因此，准则要求开发人员在决定引用第三方组件时，需要充分评估其中的安全风险。在与第三方合作时，开发人员应该审查和监控供应商的安全状况，要求供应商遵守与自己组织相同的安全标准，并对导入的第三方代码实施扫描和隔离。
要求摘录：“如果第三方组件未达到安全标准，开发者要为关键任务系统准备好切换到替代解决方案。企业可以使用NCSC的《供应链指南》等资源，以及软件工件供应链级别（SLSA）等资源，用于跟踪供应链和软件开发生命周期的认证。”
3、考虑AI应用中面临的独特风险
AI系统应用时会产生一些特有的威胁（如提示注入攻击和数据中毒），因此开发者需要充分考虑AI系统独特的安全因素。AI系统“设计安全”方法的一个重要组成部分就是为AI模型输出设置安全护栏，以防止敏感数据泄露，并限制用于文件编辑等任务的AI组件的操作。开发人员应该将AI特有的威胁场景纳入发布前的测试中，并监控用户输入以判断是否存在恶意利用系统的企图。
要求摘录：“‘对抗性机器学习’（AML）一词用于描述利用机器学习组件（包括硬件、软件、工作流和供应链）中的安全漏洞。AML使攻击者能够在机器学习系统中引发意想不到的行为，包括：影响模型的分类或回归性能、允许用户执行未经授权的操作以及提取敏感的模型信息。”
4、AI系统安全开发应该具有持续性和协作性
准则概述了AI系统设计、开发、部署、操作及维护等全生命周期阶段的最佳安全实践，并强调了持续监控已部署AI系统的重要性，以便发现模型行为变化和可疑用户输入。"设计安全"原则是任何软件更新的关键组成部分，准则建议开发者默认情况下自动更新。最后，建议开发人员利用庞大的AI社区反馈和信息共享，不断改进系统的安全性
要求摘录：“需要时，AI系统开发者可以将遇到的安全问题上报到更庞大的社区，比如发布响应漏洞披露的公告，包括详细而完整的常见漏洞枚举。当发现安全问题时，开发者要采取行动，迅速而适当地缓解和修复问题。”
参考链接：
需要重新写作的内容如下：2023年11月，美国、英国及全球合作伙伴发布了一份声明
全球人工智能安全指南的4个关键要点
WPS Office是一款面向macOS用户的综合办公套件，将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式，支持Intel及Apple芯片Mac，基础功能可免费使用，
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件，可将原始照片保存在本地硬盘，通过目录、关键词、评分和收藏夹高效整理图库，并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具，可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权，由 Creative Cloud 管理安装、更新与许
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Adobe Bridge 是 Adobe 推出的创意资产管理工具，可集中预览、分类和查找照片、视频、PDF及多种设计文件，并支持元数据、关键词、评级、批量重命名和格式导出。它可与 Photoshop、Illustrator 等应用衔接，
Affinity Photo 是一款面向摄影师、修图师和视觉设计人员的桌面图像编辑工具，提供 RAW 显影、多图层合成、蒙版、实时滤镜、批处理和色彩管理等功能。原独立产品已停止销售，其照片编辑能力已延续至免费的新 Affinity 应用；
Adobe Lightroom Classic 是面向 Windows 桌面摄影工作流的照片管理与无损编辑工具，可通过目录集中整理大型图库，并完成 RAW 显影、局部蒙版、批量调整、打印和多格式导出。它强调本地文件管理与精细控制，
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Capture One Pro 是面向摄影师和影像团队的专业桌面照片处理工具，提供相机定制色彩配置、RAW转换、图层与蒙版、联机拍摄、目录及会话管理等功能。它适合棚拍、人像、商业产品、婚礼和风光摄影，
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Adobe After Effects 是面向动态图形、动画与影视视觉特效制作的专业工具，可完成关键帧动画、图层合成、遮罩跟踪、抠像、文字动画和二维三维元素整合。Windows 版通过 Adobe Creative Cloud 安装及更新，
DaVinci Resolve是Blackmagic Design推出的一体化影视后期工具，将素材管理、非线性剪辑、专业调色、Fusion视觉特效、Fairlight音频处理和成片交付整合在统一工程中。免费版已覆盖多数个人创作需求，