百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

微盟小程序 UI 自动化截图对比实践

ccwgpt 2024-09-23 04:36 26 浏览 0 评论

一、前言背景

微盟小程序的页面进行了重大升级,要求确保在上线之后小程序新版、旧版商详页在 UI 方面保持一致。

为此,商城 C 端的前后端/测试团队联合实现了一套技术方案,高效地完成了 UI 对比能力,有力地保证了项目上线质量。

该方案包含基础数据准备、任务调度工具、Sonic 云真机搭建&用例编写、图片对比工具等模块,具有很高的可复用性,能解决非常多的实际问题。

二、框架设计

整体流程的时序图:


该方案的核心是围绕着 Sonic 云真机平台提供的基础能力,进行数据准备、用例编写、实现图片对比工具。

Sonic 云真机平台提供了一整套解决方案,可以用 Web 平台/ Rest API 远程管理多台安卓、iOS真机,并可以对手机进行基于 Appium/Selenium 的自动化操作。

Sonic 整体功能分为以下几个部分:

三、项目实现细节


3.1 微信小程序批量截图

要对微信小程序做批量自动化截图,首先就依次遇到了2个问题:

1、如何进行大批量的真机截图?

  1. a.商详页有上百种状态组合,我们需要上百张截图。b.手工截图的效率非常低;c.截图之后,需要放到合适的目录结构里面,才适合做程序对比。d.新旧版都需要做一遍截图,工作量翻倍。e.因此需要找到自动化截图工具。


2、如何实现自动化截图?

  1. a.目前微信官方有 2 个自动化工具:
    1. 1)miniprogram-automator是基于 IDE 的,需要使用小程序代码包,且是单进程;因此效率很低。2)minium 腾讯云测无法脱离腾讯平台。
  2. b.因此需要找到第三方的自动化截图工具。

而 Sonic 云真机提供的基础能力,可以帮助我们解决上述问题。

关键能力1

对 Android 原生元素的自动化操作能力。

该示例中,Sonic 可以获取元素的 xpath ,对 Android 原生组件元素进行交互。该能力是基于 Appium 的自动化能力。

因此我们可以编写脚本,实现打开微信 App、打开小程序等操作。

关键能力2

对微信小程序 Webview 元素的自动化操作能力。

上述 Web 端的截图,Sonic 实现下面3个步骤:

1、通过 adb 转发 Android 真机的 WebView 进程端口,使其可以被外部访问。

2、启动一个无头 Chrome 进程。

  1. a.使用 Chrome inspector 访问被转发的真机 WebView 端口。b.Chrome 进程通过 9222 远程调试端口对外暴露。


3、通过 Sonic 的 Web 端访问 Chrome 进程的 9222 端口,即可实现在 Web 端查看真机小程序 WebView 的能力。

在 Agent 端, Sonic 是把第2步的 Chrome 换成了 Selenium 的 ChromeDriver ,同样实现了对 webview 的自动化操作。

3.2 可视化任务脚本

在上面的关键能力基础上, Sonic 还提供了编写可视化任务的能力。

Sonic 可视化用例(局部):

该 Sonic 可视化任务的底层原理,是对真机执行封装过的 Appium / Selenium 自动化操作。

经查阅 Sonic 源码可知,核心流程中的"获取截图"能力,最终会调用 Agent 上的 ScreenShot 方法。

1、Sonic 会在在安卓手机上安装 appium-uiautomator2-server ,一个安卓自动化工具。

2、在 Agent 端内部, Sonic 实现了一个 androidDriver,通过它可以启动、连接、调用手机上的 appium-uiautomator2-server。

3、在 Agent 端调用 androidDriver 的截图 screenshot 方法,并保存截图。

我们编写的截图能力的任务逻辑如下:

通过 Sonic 提供的能力,依次打开微信、打开小程序,然后切换到小程序所使用的 WebView。拿到 Webview 之后,可以使用 JS 能力向下滑动页面。

然后使用 Sonic 提供的截图能力,多次滑动页面,对真机截图,最后存入对象存储平台(COS)。

3.3 任务调度工具

在 Sonic 平台上完成了某个小程序的截图任务之后,我们需要做一个任务调度工具。因为我们有很多小程序需要进行截图。

Sonic 提供了丰富的 REST API, 我们通过 API 的方式可以控制多个任务。

任务调度工具的时序图如下:

3.4 图片对比工具

拿到大量的真机截图之后,然后就可以进行对比了。

时序图如下:

在截图完成之后,调用图片对比平台的 API,执行对比任务,然后推送对比报告到企业微信群。

在对比策略上,我们调研了多个开源的工具库:

最终选择了 blink-diff。

我们制作了一个网页,用来呈现最终的对比结果:

图片相似度的对比,在对比原理上,有多种算法:

此外还有深度学习的算法。

后续我们会考虑提供多种对比算法,以供使用方自由选择。

四、实践结果

4.1 投入产出

实测下来,使用该工具发现9个问题,耗时0.5天。比较重要的如下:

1、商品详情规格信息为空未正常展示。

2、促销样式二时,商品参与活动信息位置展示异常。

可见,该工具的 ROI 非常高,能够快速地定位问题。

4.2 执行效率

Sonic 平台可以水平扩展,挂载 N 台真机,可以并行多个任务。

本次需求一共有120个截图任务,一个小时可以执行20个任务,目前挂载了3台手机,因此2个小时即可执行完所有的截图、对比需求。

五、规划

5.1 二次开发

目前截图能力是 Sonic 调用安卓系统的截图能力。只能截当前 ViewPort 高度的图片;需要滚动页面截取多张图,才能看到页面全貌。

我们正在推进新的方案,基于 Chrome 的 CDP 协议拿到更模块化的截图,可以排除掉截图的误差影响。

此外还有更多的细节上的调整,以便更好地满足业务需求。

5.2 多渠道小程序自动化测试

各端小程序在原理上大同小异,都是 Webview + Native 组件的混合。我们接下来会探索对支付宝、抖音、快手、小红书小程序的自动化测试实践。

5.3 推广更多的业务应用

自动化截图巡检:可以利用 UI 截图能力对线上的小程序/H5做定时巡检,把截图提交给风控模块进行检测,以便及时暴露一些问题,如:白屏、非法内容、样式错乱等等。

六、参考

1、Sonic 云真机平台官网 https://sonic-cloud.cn/

2、2.0版本,微信小程序UI自动化入门 https://sonic-cloud.wiki/d/1897-20ui


作者:牛壮

来源:微信公众号:微盟技术中心

出处:https://mp.weixin.qq.com/s/JM3Gs-piHC5g5PZuTb833A

相关推荐

团队管理“布阵术”:3招让你的团队战斗力爆表!

为何古代军队能够以一当十?为何现代企业有的团队高效似“特种部队”,有的却松散若“游击队”?**答案正隐匿于“布阵术”之中!**今时今日,让我们从古代兵法里萃取3个核心要义,助您塑造一支战斗力爆棚的...

知情人士回应字节大模型团队架构调整

【知情人士回应字节大模型团队架构调整】财联社2月21日电,针对原谷歌DeepMind副总裁吴永辉加入字节跳动后引发的团队调整问题,知情人士回应称:吴永辉博士主要负责AI基础研究探索工作,偏基础研究;A...

豆包大模型团队开源RLHF框架,训练吞吐量最高提升20倍

强化学习(RL)对大模型复杂推理能力提升有关键作用,但其复杂的计算流程对训练和部署也带来了巨大挑战。近日,字节跳动豆包大模型团队与香港大学联合提出HybridFlow。这是一个灵活高效的RL/RL...

创业团队如何设计股权架构及分配(创业团队如何设计股权架构及分配方案)

创业团队的股权架构设计,决定了公司在随后发展中呈现出的股权布局。如果最初的股权架构就存在先天不足,公司就很难顺利、稳定地成长起来。因此,创业之初,对股权设计应慎之又慎,避免留下巨大隐患和风险。两个人如...

消息称吴永辉入职后引发字节大模型团队架构大调整

2月21日,有消息称前谷歌大佬吴永辉加入字节跳动,并担任大模型团队Seed基础研究负责人后,引发了字节跳动大模型团队架构大调整。多名原本向朱文佳汇报的算法和技术负责人开始转向吴永辉汇报。简单来说,就是...

31页组织效能提升模型,经营管理团队搭建框架与权责定位

分享职场干货,提升能力!为职场精英打造个人知识体系,升职加薪!31页组织效能提升模型如何拿到分享的源文件:请您关注本头条号,然后私信本头条号“文米”2个字,按照操作流程,专人负责发送源文件给您。...

异形柱结构(异形柱结构技术规程)

下列关于混凝土异形柱结构设计的说法,其中何项正确?(A)混凝土异形柱框架结构可用于所有非抗震和抗震设防地区的一般居住建筑。(B)抗震设防烈度为6度时,对标准设防类(丙类)采用异形柱结构的建筑可不进行地...

职场干货:金字塔原理(金字塔原理实战篇)

金字塔原理的适用范围:金字塔原理适用于所有需要构建清晰逻辑框架的文章。第一篇:表达的逻辑。如何利用金字塔原理构建基本的金字塔结构受众(包括读者、听众、观众或学员)最容易理解的顺序:先了解主要的、抽象的...

底部剪力法(底部剪力法的基本原理)

某四层钢筋混凝土框架结构,计算简图如图1所示。抗震设防类别为丙类,抗震设防烈度为8度(0.2g),Ⅱ类场地,设计地震分组为第一组,第一自振周期T1=0.55s。一至四层的楼层侧向刚度依次为:K1=1...

结构等效重力荷载代表值(等效重力荷载系数)

某五层钢筋混凝土框架结构办公楼,房屋高度25.45m。抗震设防烈度8度,设防类别丙类,设计基本地震加速度0.2g,设计地震分组第二组,场地类别为Ⅱ类,混凝土强度等级C30。该结构平面和竖向均规则。假定...

体系结构已成昭告后世善莫大焉(体系构架是什么意思)

实践先行也理论已初步完成框架结构留余后人后世子孙俗话说前人栽树后人乘凉在夏商周大明大清民国共和前人栽树下吾之辈已完成结构体系又俗话说青出于蓝而胜于蓝各个时期任务不同吾辈探索框架结构体系经历有限肯定发展...

框架柱抗震构造要求(框架柱抗震设计)

某现浇钢筋混凝土框架-剪力墙结构高层办公楼,抗震设防烈度为8度(0.2g),场地类别为Ⅱ类,抗震等级:框架二级,剪力墙一级,混凝土强度等级:框架柱及剪力墙C50,框架梁及楼板C35,纵向钢筋及箍筋均采...

梁的刚度、挠度控制(钢梁挠度过大会引起什么原因)

某办公楼为现浇钢筋混凝土框架结构,r0=1.0,混凝土强度等级C35,纵向钢筋采用HRB400,箍筋采用HPB300。其二层(中间楼层)的局部平面图和次梁L-1的计算简图如图1~3(Z)所示,其中,K...

死要面子!有钱做大玻璃窗,却没有钱做“柱和梁”,不怕房塌吗?

活久见,有钱做2层落地大玻璃窗,却没有钱做“柱子和圈梁”,这样的农村自建房,安全吗?最近刷到个魔幻施工现场,如下图,这栋5开间的农村自建房,居然做了2个全景落地窗仔细观察,这2个落地窗还是飘窗,为了追...

不是承重墙,物业也不让拆?话说装修就一定要拆墙才行么

最近发现好多朋友装修时总想拆墙“爆改”空间,别以为只要避开承重墙就能随便砸!我家楼上邻居去年装修,拆了阳台矮墙想扩客厅,结果物业直接上门叫停。后来才知道,这种配重墙拆了会让阳台承重失衡,整栋楼都可能变...

取消回复欢迎 发表评论: