中大郑子彬：推动智能体评测体系落地，以可信评测赋能治理
智能体发展带来隐私泄露、可靠性及行为风险等安全挑战。郑子彬教授指出，监管技术滞后于产业发展，亟需构建标准化评测体系以赋能治理。其团队已建立覆盖数十个维度的评测框架，通过自动化检测生成安全评估报告，帮助企业精准识别风险，推动产业向安全、可信、可控方向发展。
如何应对智能体发展带来的安全性挑战？这已成为行业必须直面的核心议题。在近日一场以“如何共守智能体安全底线”为主题的“AI新治向”系列沙龙上，中山大学软件工程学院院长郑子彬教授从可信评测的角度，为智能体安全发展提供了一把关键标尺。他指出，当前智能体安全问题日益凸显，而监管技术发展相对滞后，亟须搭建标准化、可落地的评测体系，以技术赋能监管，推动产业走向安全、可信、可控的发展轨道。
中山大学软件工程学院院长、教授郑子彬作主题分享。
技术剖析智能体三大安全风险
回顾过去十年，Gartner发布的十大科技趋势预测中，AI关键词的演变路径清晰可见：从“人工智能”到“生成式AI”，再发展到“智能体”及“多智能体”。2026年，行业正式进入智能体爆发阶段，其市场规模快速增长，并已成为消耗计算资源（Token）的核心主体。
智能体与大模型之间是怎样的关系？郑子彬将其比喻为“配合关系”——智能体充当大模型的“手脚”，能够调用各类应用软件并访问互联网以执行复杂任务，这恰恰弥补了大模型自身能力的局限。然而，这种强大的“行动力”也带来了更为严峻的安全挑战。具体而言，风险主要集中在三大方面：
首先是隐私泄露。在交互过程中，用户敏感信息被意外泄露的事件时有发生。其次是可靠性问题。大模型固有的“幻觉”特性，可能导致其输出答案与客观事实存在偏差，进而引发错误决策。最后，也是最值得警惕的，是行为风险。智能体容易出现自主越权操作、执行恶意指令、违规外联甚至造成物理危害等问题。
针对行为风险，郑子彬以当前热门的Skills工具为例进行了深入剖析。这些看似普通的技能文档，一旦被智能体加载，就会涉及工具调用、数据流向和权限边界等多个维度，潜藏着不容小觑的风险。他的团队曾对互联网上公开发布的10万余个智能体Skills进行检测，结果发现其中千余个存在访问越权、数据治理失控、恶意代码执行等多重安全隐患。这些风险对于普通用户而言难以甄别，极易导致设备失控、信息泄露等严重后果。例如，有的Skills会在后台窃取用户工作记录并发送至特定地址；有的则会将环境变量中的密钥隐藏于图片中秘密传出。
面对这些风险，全球范围内已开始行动。各国针对大模型及智能体相继出台了一系列法规政策，尝试从分级管理、风险评估等多方面探索治理路径。但郑子彬指出一个关键矛盾：监管技术的发展缺乏足够的经济激励，主要依赖宏观指引，落地效果有限；相反，大模型及智能体技术本身有着强劲的经济驱动，发展迅猛。“监管往往跟不上技术的发展速度。”他呼吁，监管部门有必要加大对相关监管技术研发的投入力度。
建议加强大模型及智能体可信能力评测
那么，如何弥合技术与监管之间的鸿沟？郑子彬认为，构建一套科学的可信能力评测体系至关重要。他的团队曾对8款主流智能体框架的可信能力进行评测，结果显示，尽管某些框架在感知解析与基础任务调度上表现良好，但在关乎底线伦理的安全与风险防御、社会规则协同以及部分垂直领域的专业落地能力上，多数框架表现不佳。这种“能力失衡”暴露出行业在追求智能体高度自主与自由时，对安全的考量存在明显缺位。
随着大模型及智能体在金融、医疗、教育等关键行业的深入应用，企业对系统稳定性、输出可靠性和风险可控性的要求水涨船高。核心诉求已从最初的“能用”，转变为对“可信、可靠、可控”的全面追求。在此背景下，企业迫切需要一套具备可对比性和实践价值的评测体系，用以指导大模型选型、智能体框架选型、场景适配以及潜在风险识别。
郑子彬建议，应着力构建全维度、可落地的大模型及智能体安全评测体系，推动评测工作真正落地。这不仅能帮助企业查漏补缺、优化升级，更意味着人工智能安全治理思路的一次重要转变——从被动的“监管约束”转向主动的“服务赋能”。通过专业技术助力企业排查风险、优化模型，为智能体的合规落地提供清晰的技术标尺与改进方向，从而推动整个产业安全、健康地发展。
为此，其团队已围绕大模型和智能体分别构建了体系化的评测框架。其中，大模型可信能力评测框架涵盖了37个细分维度；智能体可信能力评测框架则更为细致，覆盖68个细分维度。依托百万级数据，通过自动化检测与智能分析，能够生成针对企业具体大模型及智能体的专属安全评估报告，精准定位风险所在。
本次“AI新治向”系列沙龙由粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报社联合主办，并得到广东省网络数据安全与个人信息保护协会的支持。活动汇聚了相关政府部门、司法机构、学界、企业及媒体等多方代表，共同聚焦国家网信办等三部门联合印发的《智能体规范应用与创新发展实施意见》核心要求，深入剖析智能体应用安全风险的底层逻辑，探讨多元共治与创新实践方案。
出品：南都大数据研究院
采写：南都研究员 罗韵
摄影：南都N视频记者 袁炯贤
Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。
Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境，集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。
Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境，基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。
Xcode 是苹果面向 Mac 提供的官方集成开发环境，将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中，适合开发与维护 iPhone、iPad、Mac、Apple Wa
JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境，可智能理解项目结构，提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。
PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境，可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。
JetBrains PyCharm 是面向 Python 开发者的集成开发环境，提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片，核心功能可免费使用。
IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境，重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具，并可借助插件扩展语言和框架支持。
Visual Studio Code 是微软提供的免费代码编辑器，支持 macOS，并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Pro Tools 是 Avid 推出的专业数字音频工作站，覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。
PixPix 是面向品牌、卖家和内容团队的在线 AI 图片视频创作平台，提供图视频 Agent、无限画布、图片生成、视频生成、自然语言编辑及商品套图、产品精修和带货视频等电商工具。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Docker Desktop 为 Windows 开发者提供集成式容器环境，内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件，可在本机完成镜像构建、容器运行、日志查看和资源管理。
Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境，以 IntelliJ IDEA 为基础，集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具，
WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索，并集成调试、测试、终端、Git 与常用前端工具，
PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境，提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序，
PyCharm 是 JetBrains 推出的 Python 集成开发环境，提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能，
JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境，提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目，
Visual Studio Code 是微软推出的免费代码编辑器，Windows 版集成智能补全、代码导航、调试、终端和版本控制，并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活，
REAPER 是 Cockos 推出的数字音频工作站，适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧，支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展，并提供完整功能的 60 天免费评估期。
Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站，提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理，
Pro Tools 是 Avid 推出的专业数字音频工作站，提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用，并提供免费入门版、订阅方案及永久授权选择。