缘起:为什么要自研一套性能测试工具

过去十年,我们团队一直在做一件事——自研一套性能测试工具,名字叫Leming WebRunner。这个想法的起点其实很朴素。我们在服务政企客户的过程中,频繁遇到一个场景:客户上了国产芯片、国产操作系统,然后问我们——“这套新架构,性能到底行不行?”

要回答这个问题,就需要做性能测试。但问题在于,当时主流的性能测试工具大多是国外产品,它们跑的底层协议栈、依赖的操作系统接口,和国产环境之间总隔着一层适配的损耗。更关键的是——如果你连测试工具本身的核心组件都是黑盒依赖,那你怎么证明用这套工具测出来的结论是可信的?

从那时起我们就意识到:在全栈国产化的大趋势下,测试工具本身也需要具备技术自主性。这不是一个“用哪个工具顺手”的问题,它关系到整个国产软件质量验证体系的独立性和可信度。所以,WebRunner从一开始就锚定了一条路:全栈自研。

技术路线:为什么坚持全栈自研

全栈自研这个词听起来很重,实际上也确实很重。WebRunner从底层协议引擎到上层的压力调度、数据采集、分析报告系统,全部由我们自己一行行代码写出来。

有人会问:为什么不直接用开源的?或者基于某些开源项目做二次封装?

答案是:适配深度和问题定位能力的差别。

如果在国产芯片架构上跑测试,测出来一个异常——这个异常是测试工具自身的兼容问题,还是被测系统的真实性能瓶颈?如果工具底层依赖了某个不透明的商业组件,排查这个问题的成本就会非常高。你甚至不知道是该找工具厂商,还是该找芯片厂商。

全栈自研让我们能够做到一件事:当问题出现时,我们可以直接定位到协议层的交互细节,而不是在黑盒外面猜。这对性能测试这个场景来说,不是锦上添花——它是基本要求。

十年积累:从能用、好用,到经得起国家级检验

WebRunner的研发不是一蹴而就的,它是一个持续打磨的过程。核心能力覆盖了测试场景构建、压力负载设计、精准执行、深度性能分析这几个环节的完整链路。

-场景构建:支持通过录制、脚本编写等多种方式快速构造测试场景

-压力设计:能够模拟真实的并发用户行为,而不是简单的请求重复

-精准执行:在国产芯片和操作系统上的运行时行为经过了大量适配优化

-性能分析:从响应时间、吞吐量到资源消耗的关联分析,定位瓶颈位置

这个过程持续了十余年。从最早的内部工具版本,到逐渐服务外部客户,再到形成完整的产品体系——每一步都是基于真实项目中的实际需求在迭代。

到了2025年,我们决定让WebRunner参加一次外部的、硬碰硬的检验。

CNAS能力验证:满分是怎么来的

中国合格评定国家认可委员会(CNAS)是国内实验室认可领域最具权威性的机构。它组织的「NAST-PT25001软件性能效率测试」能力验证计划,完全按照ISO/IEC 25001等国际标准执行。这套能力验证的考核结构是这样的:

-三个维度:需求理解与测试设计、脚本编写、测试结果

-每项各有明确的分数门槛

-总分60分以上才算满意,注意是“及格”,不是“通过”

全国263家参评单位,我们最终拿到的结果是——满分100分,全部三项考核都通过。

满分不是我们刻意追求的目标,它是一个自然结果。我们更在意的,是这套考核体系从三个维度上验证了我们产品的设计思路:

1.需求理解与测试设计:说明工具在方法论层面是严谨的

2.脚本编写能力:说明工具的脚本实现是可落地、可执行的

3.测试结果准确性:说明工具采集的数据是可靠、可复现的

这三个点,恰恰是性能测试工具最核心的能力指标。

满分意味着什么

对于使用WebRunner的测试团队来说,这个结果带来的实际价值是:用WebRunner出具的测试报告,背后有国家级权威机构的验证背书。

具体来说:

-方法论维度:工具的测试设计方法经过了国家标准体系的最高评价等级验证。这意味着用它做出来的测试方案,在ISO/IEC国际标准的框架下是站得住脚的。

-数据精度维度:工具在性能数据采集上的准确性得到了确认。这意味测试方和被测试方不需要在“这个数据准不准”这个问题上争论。

-信创适配维度:满分的结果也间接验证了全栈自研路线在国产环境适配上的有效性。WebRunner在国产芯片和操作系统上的表现,不是靠某个商业组件的兼容性来兜底的,而是由底层到上层全链路可控的设计来保证的。

未来:测试工具的技术自主性才刚刚开始

回到我们最开始的那个问题:当越来越多的软件系统运行在国产底层架构上,测试工具本身是否足够可靠、是否具备独立验证的能力?

我们认为,目前只是一个开始。软件系统的复杂度还在持续上升——微服务、云原生、AI集成,每一个技术趋势都在给测试提出新的要求。而信创替代进入深水区,每一个国产技术方案的性能表现,都需要经过充分的测试验证才能让用户真正放心。WebRunner的路还很长。满分通过CNAS能力验证,对我们来说是一个阶段性的节点,但不是终点。

我们与大家分享这件事,不是想说“我们做到了什么”,而是想传达一个判断:国产测试工具的技术自主性,是一个值得全行业持续关注的议题。它的水平,直接影响国产软件整体的质量水平和用户信任度。这需要更多团队一起来做。

Logo

openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构

更多推荐