API全场景零码测试机器人，华为云发布ATGen in CodeArts TestPlan
众所周知，软件服务及组件之间的交互主要依赖大量的API接口。以华为云300多个商用云服务为例，平均每个服务含500+接口，接口总数高达10万+，接口调用上下文业务场景超乎想像的错综复杂。如何保障API测试场景尽量完备、不遗漏、不引起严重现网问题？这是当前人们遇到的经典难题，而其中常见的瓶颈主要如下：当前接口测试设计依赖人员经验，测试数据构造手段单一，难以反应现网真实应用数据分布场景；面对成千上万的API接口，可构成上万甚至十几万的操作路径，E2E场景测试编排工作量巨大；现有的API接口测试生成工具，基本采
众所周知，软件服务及组件之间的交互主要依赖大量的API接口。
以华为云300多个商用云服务为例，平均每个服务含500+接口，接口总数高达10万+，接口调用上下文业务场景超乎想像的错综复杂。
如何保障API测试场景尽量完备、不遗漏、不引起严重现网问题？这是当前人们遇到的经典难题，而其中常见的瓶颈主要如下：
- 当前接口测试设计依赖人员经验，测试数据构造手段单一，难以反应现网真实应用数据分布场景；
- 面对成千上万的API接口，可构成上万甚至十几万的操作路径，E2E场景测试编排工作量巨大；
- 现有的API接口测试生成工具，基本采用Fuzz测试+基于代码覆盖目标引导的SBST，或基于现网数据的单接口回放，不感知接口业务上下文，对于多接口功能交互场景，生成有效性较差且效率低。
那么，华为云是如何破解这些问题的呢？
▶华为云ATGen：感知API接口上下文，自主生成API全场景测试，变革人机交互模式
ATGen (APITestGenerator) 是一种基于上下文感知（Context-aware）的API场景级零代码自主测试生成服务，实现应用API场景级测试全自动设计、生成、执行和判定，整个过程无需编写一行代码。
传统的测试设计和执行交互模式，需要人工理解设计文档、编排测试方案、测试自动化开发，这要求参与者熟知产品或服务业务及接口文档，熟练掌握测试技术、测试自动化框架、测试自动化代码编写。
如今，在自主设计、自主生成、自主执行、自主判定的AI算法加持下，API场景级测试的人机交互模式已发生了巨大的转变。
- 智能算法加持下ATGen人机交互模式
在测试过程中，机器自主解析文档和数据，自动生成API场景级操作依赖ODG（OperationDependencyGraph）图，测试人员只需做适量修订，机器便可自主探索遍历ODG图执行，并同步完成结果的判定和报告的生成，测试人员只需按类批量确认结果。
▶华为云ATGen：亮点技术和业务价值
华为云ATGen基于正向API接口定义文档，自动挖掘API测试上下文操作依赖图（ODG），探索遍历ODG自主生成API测试序列，实时构造并下发API测试请求，判定API测试响应结果，动态修正ODG图，优化下一轮生成。
华为云ATGen六大关键特性：
- 支持基于Rest API接口定义Yaml文档零码全自动智能测试生成；
- 感知Rest API 接口调用上下文：解析接口定义Yaml文档，挖掘API接口间出参与入参的上下文传参依赖，以及CRUD增删改查依赖，生成接口操作序列依赖图ODG；
- 自主探索遍历和修正ODG：探索遍历ODG批量生成测试序列，自动下发执行，依据响应反馈动态修正ODG图；
- 13种接口测试数据生成方法：支持接口上下文自动传参、复用字典取值、enum值、example值、example变异值、边界值、中间值、随机值等13种测试数据生成方法；
- 自动挖掘生成测试判定点：基于接口定义和状态码生成显性测试判定点；
- 测试结果聚类和批量高效确认：支持按照业务返回码、相似子序列，参数生成类型对测试结果分层聚类，便于测试人员按类别批量确认失败，并一键提单；
*具体技术细节可参考发表在ICSE, ASE的顶会论文【1，2】。
华为云ATGen业务价值与应用前景：
- 快速构建接口和功能质量防护网：对于新成立的产品服务团队，或无专职测试人员的全功能团队，可实现少人参与或无人参与的零代码全自动接口全场景级测试，快速构建起接口级和功能场景级测试基础质量防护网；
- 低成本、高覆盖：对于有专职测试人员、测试专家、成熟度较高的测试团队，可以极大提升测试设计效率, 低成本实现更高的测试场景覆盖率和缺陷拦截率；
- 流水线质量门禁加固：可与现有流水线集成，加固现有冒烟测试门禁，进一步拦截业务逻辑深度缺陷；
- 面向接口的全场景全属性测试无码化：可以在API正常场景测试基础上实现异常场景 （可靠性测试）和并发场景（性能压力模型）的全自动化生成，完全替代现有接口fuzz测试，实现接口全场景测试零代码。
华为云ATGen在华为内部已规模部署30+产品服务日常应用，按三个维度来度量业务应用效果：
- 生成有效性：包括接口请求成功通过率，请求成功的最长序列长度和长度分布，业务采纳并基线化沉淀的用例数等；
- 缺陷探测数：缺陷拦截能力，即发现产品服务缺陷的问题数及误报率；
- 覆盖率：包括白灰黑盒覆盖，即代码覆盖、接口及参数组合覆盖、业务场景覆盖等。
华为内部三个典型的业务应用场景实践
- 业务应用场景1
产品形态：存储管理&控制服务类云化产品，北向服务化，南向控制嵌入式存储设备
测试团队规模：50+人
北向Restful接口总数：2300+
应用前现状：团队新成立，缺乏接口和功能测试自动化防护网
应用模式：从零快速构建起接口测试和功能测试防护网测试用例
应用效果：共发现350+个接口存在缺陷，覆盖3大类缺陷，API接口级请求有效性可达80%+，误报率10%。
- 业务应用场景2
产品形态：运营商&企业网络保障&智能运维类云服务，公有云/私有云部署
测试团队规模：50人
北向Restful接口总数：10000+
应用前现状：8000+接口&功能测试用例
应用模式：对现有测试用例的覆盖增强补充
应用效果：场景测试覆盖提升30%，新发现30+深层业务逻辑问题，样例如下：
- 业务应用场景3
产品形态：XX工具类云原生服务
测试团队规模：全功能团队，无专职测试
Restful接口总数：1300+
应用前现状：10000+接口测试用例
应用模式：将ATGen集成到工具服务alpha、beta环境流水线，build完成及回归测试任务之后自动触发生成任务检测是否有失败接口，作为alpha、beta门禁加固
应用效果：补充发现60+个接口缺陷，API接口测试生成有效性可达82%。
面对云化产品版本的快速迭代，应用场景的日益丰富，产品功能渐趋复杂，完全依靠人员测试经验来保障质量变得越来越困难，自主生成全场景功能测试机器人ATGen应运而生，可实现低成本、零代码、高覆盖、低误报的API全场景测试，持续为开发者提供优质服务。
【1】“MOREST: Model-based RESTful API Testing with Execution Feedback”，ICSE ’22,
【2】“Industry practice of automatic RESTful API testing”, ASE’22
关注@华为云，了解更多资讯
正软商城本月促销专区，汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动，提供限时折扣、特价授权和优惠购买信息，活动库存及价格以页面实时展示为准。
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
