小熊飞桨练习册-06Paddlex垃圾分类

文件说明

文件 说明 train.py 训练程序 quant.py 量化程序 prune.py 裁剪程序 test.py 测试程序 infer.py 预测程序 onekey.sh 一键获取数据到 dataset 目录下 onetasks.sh 一键训练,量化脚本 get_data.sh 获取数据到 dataset 目录下 check_data.sh 检查 dataset 目录下的数据是否存在 mod/args.py 命令行参数解析 mod/pdxconfig.py PaddleX 配置 mod/config.py 配置 mod/utils.py 杂项 mod/report.py 结果报表 dataset 数据集目录 output 训练参数保存目录 result 预测结果保存目录

环境依赖

数据集

一键获取数据

  • 运行脚本,包含以下步骤:获取数据,生成图像路径和标签的文本文件,检查数据。
  • 详情查看 *onekey.sh

如果运行在本地计算机,下载完数据,文件放到 dataset 目录下,在项目目录下运行下面脚本。

如果运行在百度 AI Studio 环境,查看 data 目录是否有数据,在项目目录下运行下面脚本。

bash onekey.sh

配置模块

可以查看修改 mod/pdxconfig.py 文件,有详细的说明

开始训练

运行 train.py 文件,查看命令行参数加 -h

python3 run/train.py \
    --dataset ./dataset/train \
    --epochs 32 \
    --batch_size 16 \
    --learning_rate 0.01 \
    --lr_decay_epochs "16"\
    --lr_decay_gamma 0.25 \
    --model MobileNetV3_large_ssld \
    --pretrain_weights "IMAGENET"
  -h, --help            show this help message and exit
  --cpu                 是否使用 cpu 计算,默认使用 CUDA
  --num_workers         线程数量,默认 auto,为CPU核数的一半
  --epochs              训练几轮,默认 4 轮
  --batch_size          一批次数量,默认 16
  --learning_rate       学习率,默认 0.025
  --early_stop          是否使用提前终止训练策略。默认为 False
  --early_stop_patience
                        当使用提前终止训练策略时,如果验证集精度在early_stop_patience 个 epoch
                        内连续下降或持平,则终止训练。默认为 5
  --save_interval_epochs
                        模型保存间隔(单位: 迭代轮数)。默认为 1
  --log_interval_steps
                        训练日志输出间隔(单位:迭代次数)。默认为 10
  --resume_checkpoint   恢复训练时指定上次训练保存的模型路径, 默认不会恢复训练
  --save_dir            模型保存路径。默认为 ./output/
  --dataset             数据集目录,默认 ./dataset/
  --train_list          训练集列表,默认 '--dataset' 参数目录下的 train_list.txt
  --eval_list           评估集列表,默认 '--dataset' 参数目录下的 val_list.txt
  --label_list          分类标签列表,默认 '--dataset' 参数目录下的 labels.txt
  --warmup_steps        默认优化器的 warmup 步数,学习率将在设定的步数内,从 warmup_start_lr
                        线性增长至设定的 learning_rate,默认为 0
  --warmup_start_lr     默认优化器的 warmup 起始学习率,默认为 0.0
  --lr_decay_epochs     默认优化器的学习率衰减轮数。默认为 30 60 90
  --lr_decay_gamma      默认优化器的学习率衰减率。默认为 0.1
  --use_ema             是否使用指数衰减计算参数的滑动平均值。默认为 False
  --opti_scheduler      优化器的调度器,默认 auto,可选 auto,cosine,piecewise
  --opti_reg_coeff      优化器衰减系数,如果 opti_scheduler 是 Cosine,默认是 4e-05,如果
                        opti_scheduler 是 Piecewise,默认是 1e-04
  --pretrain_weights    若指定为'.pdparams'文件时,从文件加载模型权重;若为字符串'IMAGENET',则自动下载在Ima
                        geNet图片数据上预训练的模型权重;若为字符串'COCO',则自动下载在COCO数据集上预训练的模型权重;
                        若为None,则不使用预训练模型。默认为'IMAGENET'
  --model               PaddleX 模型名称
  --model_list          输出 PaddleX 模型名称,默认不输出,选择后只输出信息,不会开启训练
  --backbone            目标检测模型的 backbone 网络

查看支持的模型

  • 运行命令
python3 run/train.py --model_list
'PPLCNet', 'PPLCNet_ssld', 'ResNet18', 'ResNet18_vd', 'ResNet34', 'ResNet34_vd', 'ResNet50', 'ResNet50_vd', 'ResNet50_vd_ssld', 'ResNet101', 'ResNet101_vd', 'ResNet101_vd_ssld', 'ResNet152', 'ResNet152_vd', 'ResNet200_vd', 'DarkNet53', 'MobileNetV1', 'MobileNetV2', 'MobileNetV3_small', 'MobileNetV3_small_ssld', 'MobileNetV3_large', 'MobileNetV3_large_ssld', 'Xception41', 'Xception65', 'Xception71', 'ShuffleNetV2', 'ShuffleNetV2_swish', 'DenseNet121', 'DenseNet161', 'DenseNet169', 'DenseNet201', 'DenseNet264', 'HRNet_W18_C', 'HRNet_W30_C', 'HRNet_W32_C', 'HRNet_W40_C', 'HRNet_W44_C', 'HRNet_W48_C', 'HRNet_W64_C', 'AlexNet'

测试模型

运行 test.py 文件,查看命令行参数加 -h

python3 run/test.py --model_dir ./output/best_model \
    --epochs 4 \
    --dataset ./dataset/train \
    --test_list ./dataset/train/test_list.txt
  -h, --help    show this help message and exit
  --cpu         是否使用 cpu 计算,默认使用 CUDA
  --epochs      测试几轮,默认 4 轮
  --dataset     数据集目录,默认 ./dataset/
  --test_list   训练集列表,默认 '--dataset' 参数目录下的 test_list.txt
  --model_dir   读取训练后的模型目录,默认 ./output/best_model

预测模型

运行 infer.py 文件,查看命令行参数加 -h

python3 run/infer.py --dataset ./dataset/train --model_dir ./output/best_model
  -h, --help      show this help message and exit
  --cpu           是否使用 cpu 计算,默认使用 CUDA
  --dataset       数据集目录,默认 ./dataset/
  --infer_list    预测集列表,默认 '--dataset' 参数目录下的 infer_list.txt
  --model_dir     读取训练后的模型目录,默认 ./output/best_model
  --result_info   显示预测结果详细信息,默认 不显示
  --result_path   预测结果文件路径,默认 ./result/result.csv
  --split         数据分隔符,默认 ','

VisualDL 可视化分析工具

  • 安装和使用说明参考:VisualDL
  • 如果是 AI Studio 环境训练的把 output/vdl_log 目录下载下来,解压缩后放到本地项目目录下 output/vdl_log 目录
  • 在项目目录下运行下面命令
  • 然后根据提示的网址,打开浏览器访问提示的网址即可
visualdl --logdir ./output/vdl_log

Original: https://www.cnblogs.com/cnhemiya/p/16280476.html
Author: 小熊宝宝啊
Title: 小熊飞桨练习册-06Paddlex垃圾分类

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/710870/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • Nacos

    Nacos— Spring Cloud 注册中心 + 配置中心 一.什么是Nacos? Nacos是阿里的一个开源产品,是针对微服务架构中的服务发现、配置管理、服务治理的综合型解决…

    技术杂谈 2023年7月25日
    0106
  • 面试题目:手写一个LRU算法实现

    LFU Least Frequently Used 算法根据数据的历史访问频率来淘汰数据,其核⼼思想是”如果数据过去被访问多次,那么将来被访问的频率也更⾼”…

    技术杂谈 2023年7月11日
    0104
  • python 调用c语言函数

    虽然python是万能的,但是对于某些特殊功能,需要c语言才能完成。这样,就需要用python来调用c的代码了具体流程:c编写相关函数 ,编译成库然后在python中加载这些库,指…

    技术杂谈 2023年6月21日
    0119
  • 设计模式概述(一)

    设计模式(Design Pattern)是前辈们对代码开发经验的总结,是解决特定问题的一系列套路。它不是语法规定,而是一套用来提高代码可复用性、可维护性、可读性、稳健性以及安全性的…

    技术杂谈 2023年7月11日
    076
  • java学习之Servlet

    Servlet就是一个接口我们需要写一个类然后去实现Servlet,就可以被服务器识别到。request是用来接受客户端传过来的参数,respone是用来响应客户端的页面。我们所用…

    技术杂谈 2023年6月21日
    0107
  • Flume和Sqoop

    vim flume-dir-hdfs.conf 添加如下内容 a3.sources = r3 a3.sinks = k3 a3.channels = c3 Describe/con…

    技术杂谈 2023年7月24日
    087
  • delphi和go以及其他语言基于结构的数据序列和还原

    delphi和go以及其他语言基于结构的数据序列和还原 数据序列基于结构,是跨语言、平台能够实现数据标准的基础。 GO基于结构的序列 DELPHI基于结构的序列 Original:…

    技术杂谈 2023年5月30日
    0109
  • HTTPS:让数据传输更安全

    浏览器安全主要划分为三大块内容:页面安全、系统安全和网络安全。前面我们用四篇文章介绍了页面安全和系统安全,也聊了浏览器和 Web 开发者是如何应对各种类型的攻击,本文是我们专栏的最…

    技术杂谈 2023年5月31日
    0106
  • chmod 755 filename

    以下为正文 chmod是Linux下设置文件权限的命令,后面的数字表示不同用户或用户组的权限。 一般是三个数字: 第一个数字表示文件所有者的权限 第二个数字表示与文件所有者同属一个…

    技术杂谈 2023年6月1日
    0102
  • Dapr 远程调试之 Nocalhost

    虽然Visual studio 、Visual studio code 都支持debug甚至远程debug ,Dapr 搭配Bridge to Kubernetes 支持在计算机上…

    技术杂谈 2023年5月30日
    0105
  • 获取不到数据库连接问题

    org.springframework.jdbc.CannotGetJdbcConnectionException: Could not get JDBC Connection; …

    技术杂谈 2023年7月23日
    062
  • 基于zookeeper分布式全局序列分布式锁详解

    博客园 :当前访问的博文已被密码保护 请输入阅读密码: Original: https://www.cnblogs.com/langtianya/p/10838236.htmlAu…

    技术杂谈 2023年5月31日
    0101
  • Sentinel 热点参数限流

    https://github.com/alibaba/Sentinel/wiki/%E7%83%AD%E7%82%B9%E5%8F%82%E6%95%B0%E9%99%90%E6%…

    技术杂谈 2023年5月31日
    0129
  • 内部类

    内部类:将一个类的定义放在另一个类的定义内部。内部类机制可以把逻辑相关的类组织在一起,并控制位于内部的类的可视性。 内部类与组合是完全不同的概念。 内部类不仅是一种代码隐藏机制(将…

    技术杂谈 2023年7月23日
    0128
  • iptables防火墙原理详解

    Netfilter是由Rusty Russell提出的Linux 2.4内核防火墙框架,该框架既简洁又灵活,可实现安全策略应用中的许多功能,如数据包过滤、数据包处理、地址伪装、透明…

    技术杂谈 2023年5月31日
    0121
  • Thymeleaf 简介

    Thymeleaf 是一款用于渲染 XML/XHTML/HTML5 内容的模板引擎。它与 JSP,Velocity,FreeMaker 等模板引擎类似,也可以轻易地与 Spring…

    技术杂谈 2023年5月31日
    097
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球