pytest-xdist–分布式执行用例

pytest-xdist基本的介绍

声明:在介绍pytest-xdist时,本人不讲任何原理,需要看原理的请移至官方:
当我们自动化测试用例非常多的时候, 一条条按顺序执行会非常慢,pytest-xdist的出现就是为了让自
动化测试用例可以分布式执行,从而节省自动化测试时间,pytest-xdist是属于进程级别的并发。
pytest-xdist插件在测试过程中可以使我们的测试用例一起并行测试,运行情况是根据你运行环境存在多个CPU,运行过程中可以进行组合测试运行,从而缩短我们的测试时间。

pytest-xdist插件安装

只需要在终端中运行如下命令: pip install pytest-xdist

pytest-xdist执行用例的条件

需满足以下条件:

  • 每一条用例必须是独立的。用例之间没有依赖关系,用例可以完全独立运行【独立运行】
  • 每一条用例没有特定的执行顺序,就是每条用例都要遵循随机执行【随机执行】
  • 每条用例的测试结果不能影响到其他的测试用例。【不影响其他用例】

pytest-sdist与pytest-parallel的小小区别

  • pytest-xdist在win中调用的是多进程,而parallel在win中调用的是多线程,win中只有单进程
  • pytest-xdist调用时,会使session执行多次,算是一个win的bug,但是官方给出的解决方案是,使用filelock锁
  • 使用parallel时,在win中调用多线程,但是allure报告不支持多线程,allure是集成报告,根据session来集成,所以就是出现一个线程一个报告

pytest-xdist使用方法

pytest -n x
n:表示`使用并行参数
x:表示需要启动多少个分布式,也即使用CPU的个数

  • n auto:可以自动检测到系统的CPU核数;从测试结果来看,检测到的是逻辑处理器的
    数量
  • 使用auto等于利用了所有CPU来跑用例,此时CPU占用率会特别高
    说明:建议最多使用1/2的CPU个数来进行执行,消耗资源太多,导致电脑太卡

接下来看实例:

在终端中分别输入并执行: pytest -vspytest -vs -n 2

pytest-xdist--分布式执行用例

从结果可以看出,不是用分布式运行测试用例,总共用时10.71秒
那么接下来我们使用分布式进行运行用例,看看他运行的时间:

pytest-xdist--分布式执行用例

pytest-xdist--分布式执行用例

可以看出使用分布式运行用例,同时有2个线程进行执行用例,时间为6.08秒,缩短了很多的时间。

pytest-xdist自定义执行模式

1.按照同一个作用域方法来分组,然后将每个测试组发给可以执行的worker,确保同一个组的测试
用例在同一个进程中执行:

–dist=loadscope #每个worker按类执行
示例:pytest -v -n 3 –dist=loadscope test_demo.py

2.按照同一个文件名来分组,然后将每个测试组发给可以执行的worker,确保同一个组的测试用例在
同一个进程中执行:

–dist=loadfile #每个worker按文件执行
示例:pytest -v -n 3 –dist=loadfile test_xdist.py test_xdist_02.py test_xdist_03.py

3.是将每个用例,分别发给所有的执行器worker,相当于开了几个执行器worker,同一个用例就执行几遍:

–dist=each
示例:pytest -v -n 3 –dist=each test_xdist.py

4.将待运行的用例随机发给可用的执行器worker,用例执行顺序随机的, 目前默认采用这种方式

–dist=load 和 –dist==no
示例:pytest -v -n 3 –dist=load test_xdist.py

如何让scope=session的fixture在test session中仅仅执行一次

pytest-xdist是让每个worker进程执行属于自己的测试用例集下的所有测试用例,这意味着在不同
进程中,不同的测试用例可能会调用同一个scope范围级别较高(例如session)的fixture,该
fixture则会被执行多次,这不符scope=session的预期。
虽然pytest-xdist没有内置的支持来确保会话范围的夹具仅执行一次,但是可以通过使用锁定文件
进行进程间通信来实现。

import pytest
from filelock import FileLock

@pytest.fixture(scope="session",autouse=True)
def login(tmp_path_factory, worker_id):
    # 如果是单机运行 则运行这里的代码块【不可删除、修改】
    if worker_id == "master":
"""
        【自定义代码块】
        这里就写你要本身应该要做的操作,比如:登录请求、新增数据、清空数据库历史数据等等
"""
        uuid_value = uuid.uuid1()
        token = uuid_value.hex
        print("fixture:请求登录接口,获取token", token)
        os.environ['token'] = token
        # 如果测试用例有需要,可以返回对应的数据,比如 token
        return token
    # 如果是分布式运行
    # 获取所有子节点共享的临时目录,无需修改【不可删除、修改】
    root_tmp_dir = tmp_path_factory.getbasetemp().parent
    # 【不可删除、修改】
    fn = root_tmp_dir / "data.json"
    # 【不可删除、修改】
    with FileLock(str(fn) + ".lock"):
        # 【不可删除、修改】
        if fn.is_file():
          # 缓存文件中读取数据,像登录操作的话就是 token 【不可删除、修改】
          token = json.loads(fn.read_text())
          print(f"读取缓存文件,token 是{token} ")
        else:
"""
            【自定义代码块】
             跟上面 if 的代码块一样就行
"""
            uuid_value = uuid.uuid1()
            token = uuid_value.hex
            print("fixture:请求登录接口,获取token", token)
            # 【不可删除、修改】
            fn.write_text(json.dumps(token))
            print(f"首次执行,token 是{token} ")
          # 最好将后续需要保留的数据存在某个地方,比如这里是 os 的环境变量
        os.environ['token'] = token
    return token
  1. 示例只需要执行一次login(因为它是只需要执行一次来定义配置选项,等等)
  2. 当第一次请求这个fixture时,则会利用FileLock仅产生一次fixture数据
  3. 当其他进程再次请求这个fixture时,则会从文件中读取数据

Original: https://www.cnblogs.com/dack-zt-deng/p/15817931.html
Author: dack_deng
Title: pytest-xdist–分布式执行用例

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/714037/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • SpringBoot多线程生产者消费者模型应用——排队叫号实验模拟(一)

    需求说明 目前的需求是在web端做一个排队叫号系统的过程模拟,目前实现了前半部分,使用到了生产者消费者模型,虽然比较简单,但还是记录一下。 目前实现进度 完成了Thread A放客…

    技术杂谈 2023年7月24日
    085
  • Vuex项目Example中的源码学习(1)

    @ counter 代码跑起来 项目结构 项目效果 揣测下大概思路 具体代码实现 学习到的知识点 counter 代码跑起来 从github上把代码下载下来(https://git…

    技术杂谈 2023年7月11日
    0126
  • shell内置命令和外部命令的区别

    shell内置命令和外部命令的区别 内部命令实际上是shell程序的一部分,其中包含的是一些比较简单的linux系统命令,这些命令由shell程序识别并在shell程序内部完成运行…

    技术杂谈 2023年7月24日
    075
  • 将升序数组转化为平衡二叉搜索树

    将升序数组转化为平衡二叉搜索树 问题描述 给定一个升序排序的数组,将其转化为平衡二叉搜索树(BST)。平衡二叉搜索树是指树上的每个节点 node 都满足左子树中所有节点的的值都小于…

    技术杂谈 2023年7月25日
    071
  • 苹果的最新MacbookPro,炸到你了么?

    一 苹果秋季发布会如期而至。我不是一个标准的果粉。但是我今年用上了macbook pro m1,最期待的就是新款的搭载了M1X的Macbook。 苹果官方也放出了要炸翻全场的宣传语…

    技术杂谈 2023年7月11日
    079
  • wasm示例 js canvas 动画示例

    3d迷宫移动:https://developer.mozilla.org/en-US/docs/Web/API/Canvas_API/A_basic_ray-caster C:\d…

    技术杂谈 2023年5月31日
    098
  • 一文看懂 ZooKeeper ,面试再也不用背八股

    ZooKeeper知识点总结 一、ZooKeeper 的工作机制 二、ZooKeeper 中的 ZAB 协议 三、数据模型与监听器 四、ZooKeeper 的选举机制和流程 本文将…

    技术杂谈 2023年7月25日
    0102
  • Docker详解

    Docker简介 【1】Docker是一个开源的容器引擎,它有助于更快地交付应用。 Docker可将应用程序和基础设施层隔离,并且能将基础设施当作程序一样进行管理。使用 Docke…

    技术杂谈 2023年7月24日
    070
  • jmap命令详解(转)

    1、命令基本概述 Jmap是一个可以输出所有内存中对象的工具,甚至可以将VM 中的heap,以二进制输出成文本。打印出某个java进程(使用pid)内存内的,所有’对象…

    技术杂谈 2023年5月30日
    0104
  • 多带小孩去的地方

    科技、人文、艺术、博物、航空、航海、图书、高等学校等地 四川 成都博物馆 分南楼和北楼。位于天府广场西侧,与四川省图书馆、四川美术馆、四川科技馆、锦城艺术宫等建筑毗邻。 四川博物院…

    技术杂谈 2023年6月1日
    076
  • 【考研】C语言

    考研C语言 收录数据结构会用到的C语言知识,建议有基础的情况下再学习,针对性学习即可。 往后的学习要多从内存角度去学习计算机的知识 1. 数组 1.1 一维数值数组 具备相同的数据…

    技术杂谈 2023年7月10日
    085
  • 无重复字符的最长子串

    https://leetcode-cn.com/problems/longest-substring-without-repeating-characters/ 上链接为Leeco…

    技术杂谈 2023年7月23日
    079
  • springboot小结

    创建一个SpringBoot项目 创建项目注意点 然后选中自己需要的依赖 不过后期还可以自己导入不过比较麻烦 分析各种包 不过的文件夹需要自己建 图标写成这样放到public下面就…

    技术杂谈 2023年7月11日
    075
  • 字节一面:事务还没提交的时候,redolog 能不能被持久化到磁盘呢?

    又是被自己菜醒的一天,总结面经看到这题目听都没听过,打开百度就像吃饭一样自然 老规矩,背诵版在文末。点击阅读原文可以直达我收录整理的各大厂面试真题 首先,咱需要明白的是,啥是持久化…

    技术杂谈 2023年7月25日
    0224
  • 利用rabbitmq异步实现来提升程序处理性能

    近期交易系统出款交易量猛增,从skywalking监控平台查看服务的调用链路(Trace),发现在调用外部三方http接口会耗时将近一半。鉴于出款交易在业务上是异步处理的,所以,商…

    技术杂谈 2023年7月11日
    068
  • 自己动手,打造轻量级VSCode/C#环境代替LinqPad

    .Net 的项目都挺重的,一直想找一个轻量级的 CSharp 环境,能像Python那样,选一个文件就能跑的。之前用的是 LinqPad,但它的缺点也很明显: (1) 不付费,自动…

    技术杂谈 2023年6月1日
    086
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球