神经网络在工作的时候，里面到底是什么样？
为了能透视这个”AI黑箱”中的过程，加拿大蒙特利尔一家公司开发一个3D可视化工具Zetane Engine。只需要上传一个模型，Zetane Engine就可以巡视整个神经网络，并且还可以放大网络中的任何一层，显示特征图，看清流水线上的每一步。
目前Zetane Engine不同系统的版本都可以在GitHub网站zetane中找到，也可通过下面链接下载安装包：
(左图为卷积层的特征图，右图为特征图的3D可视化)
可视化AI工作流程
首先，我们需要上传一个模型，上传模型的按钮在启动台左上角Z字标志这里，Zetane Engine支持ONNX、Keras（.h5)以及ZTN三种模型文件。
模型文件格式转换可参考Python将模型参数文件(.pth/.pkl等)转换为ONNX格式
如果手头上还没有模型也没关系，点击界面右上角的Z形图标可以到Zetane Engine的模型库中下载模型：
另外在启动台SNAPSHOTS按钮这里也有一些经典模型可以选择：
例如一个Resnet50网络，输入的图片是一张RGB图：
上传之后，Zetane Engine就绘制出了一条”流水线”，每一层神经网络就像一个个工作间：
这些个小工作间的进展也是透明的，我们可以聚焦到一个归一化层、Relu激活层或者卷积层工作间，点这个图片形状的按钮：
然后这个各层的所有特征图都会在上面显示出来，如卷积层中卷积数值的不同体现为颜色的不同，蓝紫色代表数值较小，红黄色代表数值较大
还可以通过点击这几个地方来查看，输入和输出的各种样式：
其中有排列成三维立体的、标注卷积结果数值的，以及纯数值的应有尽有：
二维视角
三维视角
标注卷积结果的平面图
纯卷积结果的数值平面图
多角度的图像处理在连接层、激活层、归一化层等工作间也同样适用：
激活层特征图
归一化层特征图
到了最后的全连接输出层，模型会输出一个一维向量（下图右边），用来判断图像是哪个类别的。
怎么样？有了这样可视化的工具，是不是感觉AI模型不再是一个黑箱了？
Original: https://blog.csdn.net/Joker00007/article/details/123023111
Author: Joker 007
Title: 深度学习3D可视化工具——Zetane Engine
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/648401/
转载文章受原作者版权保护。转载请注明原作者出处！