Netron：神经网络模型可视化工具指南【全网最详细】

Netron初印象

Netron 功能是什么？

Netron 的来源

支持的模型文件格式

如何使用 Netron 打开和查看模型文件？

要掌握哪些知识才能看懂模型结构？

模型结构解释

part1

part2

part3

part4

part5

各节点解释说明

起始和终止节点0

conv2节点

batch_norm节点

relu节点

Softmax 节点

matmul_v2节点

flatten_contiguous_range节点

elementwise_add节点

pood2d节点

何时使用？

Netron初印象

Netron，是一个非常直观和流行的神经网络模型可视化工具。它是一个开源项目，主要用于可视化深度学习模型的结构，包括各层的参数和连接关系。Netron 支持多种模型文件格式，并提供友好的用户界面，方便研究人员和工程师快速查看和分析模型。

体验链接：Netron

Netron 功能是什么？

Netron，主要功能是：帮助用户快速理解和调试深度学习模型的结构。Netron 提供了一个图形界面，展示模型的各层、各节点，以及它们之间的连接关系。

Netron 的来源

Netron 由 Lutz Roeder 开发并开源，最初发布于 2017 年。它使用 Electron 框架构建，因此可以在 Windows、macOS 和 Linux 上运行。Netron 的开发初衷是为了提供一个简单、直观的工具，让用户能够轻松查看和理解复杂的神经网络结构。

支持的模型文件格式

Netron 支持多种深度学习模型文件格式，包括但不限于：

ONNX (.onnx)
TensorFlow (.pb, .meta, .tflite)
Keras (.h5, .keras)
Caffe (.caffemodel, .prototxt)
PyTorch (.pth, .pt, .pkl)
Core ML (.mlmodel)
Darknet (.cfg)
PaddlePaddle (.pdmodel)
TNN (.tnnproto)
MXNet (.json, .params)
Barracuda (.nn)

如何使用 Netron 打开和查看模型文件？

安装 Netron：你可以通过官方网站下载 Netron 的安装包，或者使用 npm 安装：

npm install -g netron

启动 Netron：你可以通过运行以下命令启动 Netron：

netron

打开模型文件：在启动的 Netron 应用程序中，点击“Open File”按钮，选择你要查看的模型文件。Netron 会自动解析文件内容并展示模型的结构。
查看模型结构：在 Netron 的图形界面中，你可以看到模型的各层和节点。点击特定的节点，可以查看该层的详细信息，包括层类型、输入输出尺寸、参数等。

要掌握哪些知识才能看懂模型结构？

要读懂和理解 Netron 展示的模型结构，通常需要掌握以下知识：

神经网络基础：了解基本的神经网络概念，如层（layer）、节点（node）、权重（weights）、激活函数（activation function）等。
深度学习框架：熟悉你所使用的深度学习框架（如 TensorFlow、PyTorch、Keras 等）的基本使用方法和模型定义方式。
模型架构：了解常见的神经网络架构，如卷积神经网络（CNN）、循环神经网络（RNN）、全连接网络（FCN）等。
数据流：理解数据在模型中的流动过程，即如何从输入数据经过各层处理最终得到输出结果。
参数和超参数：能够识别和理解模型中的参数和超参数，如卷积核大小、步长、池化层、dropout 率等。

通过这些知识，你可以更好地理解和调试深度学习模型，利用 Netron 的可视化功能快速发现和解决潜在问题。

模型结构解释

part1

0：表示的是输入层

输入形状：`?x3x448x448`
这里的 `?` 通常表示批次大小（batch size），在很多情况下这一维度不是固定的。
输入的图片为3个通道（通常是 RGB 三个通道的彩色图像），高度和宽度分别为 448 像素。

第一层：卷积层（conv2d）

卷积核数量为 32（输出通道数）。
每个卷积核的大小为 `3x3x3`，即 3x3 的空间维度和 3 个输入通道。
输出形状：`?x32x224x224`

经过卷积操作后，输出的特征图的通道数变为 32，空间维度减半（此处假设使用步幅为2或者有一些边界处理，如 padding）。

第二层：Batch Normalization（批量归一化层）

批量归一化层能够加速训练并稳定模型。参数：
`Bias`（偏置）：大小为 32（与通道数一致）。
`Mean`（均值）：大小为 32。
`Scale`（缩放）：大小为 32。
`Variance`（方差）：大小为 32。

输出形状：`?x32x224x224`。输出形状与输入形状一致，因为批量归一化层不会改变数据的维度。

第三层：激活层（ReLU）

Rectified Linear Unit（ReLU）激活函数，主要用于引入非线性。
输出形状：`?x32x224x224`
输出形状与输入形状一致，因为激活函数不会改变数据的维度。

part2

上一层输出：
- 输入数据形状为 ?x32x224x224，经过之前 ReLU 激活函数的处理。
卷积层：
- 使用 64 个 3x3x32 的卷积核，提取64个通道的特征图，每个卷积核生成一个新的特征图。
- 输出数据形状为 ?x64x224x224。
批量归一化层：
- 对每个通道进行批量归一化，包括调整均值、方差、缩放因子和偏置。
- 批量归一化后的形状保持不变：?x64x224x224。
激活层：
- 应用 ReLU 激活函数，引入非线性。
- 输出数据形状保持不变：?x64x224x224。

part3

上一层输出

形状：?x64x224x224
- 上一层 ReLU 激活函数的输出。

池化层（pool2d）

池化（Pooling）：
- 池化层通常用于下采样，减小特征图的尺寸，同时保留主要的特征。
- 假设使用的是 2x2 的最大池化（Max Pooling），步长为 2。
输出形状：?x64x112x112
- 空间维度减半，通道数保持不变，即 64 个通道，空间维度变为112x112。

分支路径1

第一层卷积层（conv2d）

卷积核（Filter）：
- 64 个 1x1x64 大小的卷积核。
输出形状：?x64x112x112
- 通道数保持为 64，空间维度不变。

批量归一化层（batch_norm）

参数：
- Bias（偏置）：大小为 64。
- Mean（均值）：大小为 64。
- Scale（缩放因子）：大小为 64。
- Variance（方差）：大小为 64。
输出形状：?x64x112x112
- 输出形状与输入形状一致。

激活层（ReLU）

输出形状：?x64x112x112
- 输出形状与输入形状一致。

第二层卷积层（conv2d）

卷积核（Filter）：
- 64 个 3x3x64 大小的卷积核。
输出形状：?x64x112x112
- 通道数保持为 64，空间维度不变。

批量归一化层（batch_norm）

输出形状：?x64x112x112
- 输出形状与输入形状一致。

激活层（ReLU）

输出形状：?x64x112x112
- 输出形状与输入形状一致。

卷积层（conv2d）

卷积核（Filter）：
256 个 1x1x64 大小的卷积核。
输出形状：?x256x112x112
通道数变为 256，空间维度保持为 112x112。

批量归一化层（batch_norm）

参数：
Bias（偏置）：大小为 256。
Mean（均值）：大小为 256。
Scale（缩放因子）：大小为 256。
输出形状：?x256x112x112
输出形状与输入形状一致。

分支路径2

卷积层（conv2d）

卷积核（Filter）：
- 256 个 1x1x64 大小的卷积核。
输出形状：?x256x112x112
- 通道数变为 256，空间维度保持为 112x112。

批量归一化层（batch_norm）

参数：
- Bias（偏置）：大小为 256。
- Mean（均值）：大小为 256。
- Scale（缩放因子）：大小为 256。
- Variance（方差）：大小为 256。
输出形状：?x256x112x112
- 输出形状与输入形状一致。

part4

元素相加（Elementwise Add）

输入1（来自左侧分支的批量归一化输出）：?x256x112x112
输入2（来自右侧分支的批量归一化输出）：?x256x112x112
操作：逐元素相加，两个相同形状的特征图按元素对应相加。
输出形状：?x256x112x112
- 这一步不会改变形状，但会合并两个特征图的信息。

激活层（ReLU）

激活函数：Rectified Linear Unit（ReLU）引入非线性。
输出形状：?x256x112x112
- 输出形状与输入形状一致，因为激活函数不会改变数据的维度。

下一个[左侧]分支路径

卷积层（conv2d）

卷积核（Filter）：
- 64 个 1x1x256 大小的卷积核。
输出形状：?x64x112x112
- 通道数变为 64，空间维度保持 112x112。这是通过 1x1 卷积实现的。

批量归一化层（batch_norm）

参数：
- Bias（偏置）：大小为 64。
- Mean（均值）：大小为 64。
- Scale（缩放因子）：大小为 64。
- Variance（方差）：大小为 64。
输出形状：?x64x112x112
- 输出形状与输入形状一致，因为批量归一化层不会改变数据的维度。

part5

ReLU (Rectified Linear Unit) 激活函数
- 输入维度: ? x 2048 x 14 x 14
- 这层将输入的所有负值变成零，保留正值不变，增加了模型的非线性能力。
池化 (Pooling) 层 – Pool2d
- 输入维度: ? x 2048 x 14 x 14
- 输出维度: ? x 2048 x 1 x 1
- 池化层通过下采样操作来减少每一层特征图的尺寸。这里是全局平均池化（Global Average Pooling），将每个2048个特征图降维为1x1。

展平（Flatten）层 – flatten_contiguous_range
- 输入维度: ? x 2048 x 1 x 1
- 输出维度: ? x 2048
- 作用: 将多维张量展平为一维向量。以便在全连接层中处理。这一步将多维张量展平（flatten），将原来的四维张量（shape 为? x 2048 x 1 x 1）转换为二维张量（shape 为? x 2048）。在这种情况下，2048是一维的大小，而问号代表批量大小（batch size）。这个过程通常用于在从卷积层过渡到全连接层的时候。

全连接层 (Dense) – matmul_v2
- 输入维度: ? x 2048
- 输出维度: ? x 2
- 这是一个线性变换，将2048维的输入向量投影到2维空间中，是通过矩阵乘法（matmul）实现的。
- 权重矩阵维度为 2048 x 2。
加法层 (Element-wise Add)
- 输入维度: ? x 2
- 输出维度: ? x 2
- 这是一个按元素加操作，加上一个偏移量（bias）向量 2。这个层对每一个输出单独加上一个偏置项。

在神经网络中，加法层（element-wise add 或 bias addition）是非常常见且重要的一部分，
尤其是在线性变换步骤中（例如全连接层之后）。这个加法层通常用于添加偏置项（bias），
其主要目的是为了增加模型的表达能力和灵活性。以下是关于为什么需要加法层的一些原因：增加模型的表达能力:在全连接层中，输出通常是通过输入和权重矩阵的矩阵乘法得到的线性变换。
加入偏置项可以提高模型对非线性问题的拟合能力。
数学上，线性变换可以表示为 $y = Wx + b$，其中 $W$ 是权重矩阵，$x$ 是输入，$b$ 是偏置项。
偏置项允许模型在没有输入激活的情况下调整输出，这样模型对复杂函数的拟合能力更强。
防止线性激活函数的零输出:如果没有偏置项，在某些情况下（例如输入为零矢量时），输出也会被固定为零，影响训练效果。
而偏置项可以使得即使输入为零，仍然能有非零的输出，确保网络的每一层都能传递信号，促进梯度的传播和网络的训练。
稳定训练过程:加入偏置项可以使模型更稳定，减少训练过程中梯度消失或爆炸的可能性。
偏置项帮助调整激活函数的输入范围，使其更接近激活函数的灵敏区间，从而使得梯度更稳定。
与生物神经网络的类比:在生物神经网络中，神经元的激活不仅取决于输入信号，还受到一些背景电流的影响。
偏置项可以视作这种背景输入，帮助网络更接近生物神经元的工作方式。总结来说，虽然在一些简单情况下，添加偏置项可能看起来没有显著作用;
但在实际复杂的网络中，它提升了模型的灵活性和表达能力，使其更能够有效地拟合数据并稳定训练过程。
因此，神经网络中几乎所有全连接层都会引入偏置项。

Softmax 激活函数
- 输入维度: ? x 2
- 输出维度: ? x 2
- Softmax 函数将输出值转换为概率分布，使每个类的输出值范围在0到1之间，并且总和为1。这对于分类任务是至关重要的，因为它可以解释为选择某一类的概率。
输出层
- 输出维度: ? x 2
- 最终输出是一个二维向量，每一维表示样本属于某一类的概率。

各节点解释说明

当我们点击某一个节点，就会看到具体的解释。

起始和终止节点0

如下图：

Model Properties（模型属性）

format（格式）:
- PaddlePaddle v2.4.2: 表示使用的深度学习框架及其版本，这里是 PaddlePaddle 的 2.4.2 版本。
graph（图）:
- 0: 表示模型中的图索引。如果模型包含多个计算图，这里可以用索引来区分。

Inputs（输入）

输入 0

name（名称）:
- x: 输入张量的名称，通常对应于数据在模型中的表示。
tensor（张量）:
- float32[?,3,448,448]: 输入张量的数据类型和形状。 - float32: 表示数据类型为32位浮点数。 - [?,3,448,448]: 表示张量的形状。? 代表批量大小，可以动态变化；3 代表通道数，对应于RGB图像的三个通道；448x448 代表图像的高度和宽度。

Outputs（输出）

输出 0

name（名称）:
- softmax_1.tmp_0: 输出张量的名称，经常是经过某些层（如 Softmax 激活）后的中间结果。
tensor（张量）:
- float32[?,2]: 输出张量的数据类型和形状。 - float32: 表示数据类型为32位浮点数。 - [?,2]: 表示张量的形状。? 代表批量大小，可以动态变化；2 代表每个样本的输出大小，对应于分类任务中两类的概率分布。

conv2节点

某个卷积层（conv2d）的节点属性及其详细信息：

Node Properties（节点属性）

type（类型）:
- conv2d: 表示这个节点是一个二维卷积层。

Attributes（属性）

data_format（数据格式）:
- NCHW: 表示数据的存储顺序，分别是 Batch size (N), Channels (C), Height (H), Width (W)。这种格式主要在框架如 PyTorch 和 PaddlePaddle 中使用。
dilations（扩张率）:
- 1, 1: 扩张卷积的参数，表示卷积核在各个方向上的扩张倍数。这里是 1, 1，表示没有扩张，使用标准卷积。
groups（组数）:
- 1: 表示使用标准卷积，即所有输入通道和输出通道之间是完全连接的。如果大于1，则表示分组卷积。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，比如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 这表示该操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
padding_algorithm（填充算法）:
- EXPLICIT: 表示填充方式是明确指定的（Explicit Padding），非自动推断（如 Same、Valid 等）。
paddings（填充）:
- 1, 1: 表示在卷积操作中，在每个方向上添加的填充量。这意味着在高度和宽度方向各添加1个单位的填充。
strides（步长）:
- 2, 2: 表示卷积核在高度和宽度方向上的移动步长是2，即每隔2个单位进行一次卷积操作。

Inputs（输入）

Input:
- name: x
  - 这是输入张量，来自前一层的输出。
Filter:
- name: conv2d_0.w_0
  - 这是卷积核或滤波器的名称，包含卷积操作中使用的权重参数。

Outputs（输出）

Output:
- name: conv2d_106.tmp_0
  - 这是卷积操作的输出张量名称，这个张量会作为下一层的输入。

batch_norm节点

各个部分的信息：

Node Properties（节点属性）

type（类型）:
- batch_norm: 表示这个节点是一个批量归一化层。

Attributes（属性）

data_layout（数据布局）:
- NCHW: 表示数据的存储顺序，分别是 Batch size (N), Channels (C), Height (H), Width (W)。这种格式主要在框架如 PyTorch 和 PaddlePaddle 中使用。
epsilon:
- 0.0000009999999747378752: 这是一个非常小的数，用来防止在计算过程中出现除零错误。一般用于维持数值稳定性。
is_test（是否测试）:
- true: 表示当前批量归一化层处于测试模式。在测试模式下，不会更新均值和方差，只使用训练时的统计量。
momentum（动量）:
- 0.8999999761581421: 用于计算移动均值和方差的动量参数。动量用于控制均值和方差更新的速度。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，比如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 这表示该操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
trainable_statistics（训练中的统计量）:
- false: 表示在训练过程中不会更新统计量（均值和方差），只使用全局统计量。
use_global_stats（使用全局统计量）:
- false: 是否使用整个训练集的数据来计算均值和方差。如果为true，则使用全局统计量，而不是批处理统计量。

Inputs（输入）

X:
- name: conv2d_106.tmp_0
  - 这是输入张量，通常是来自前一层卷积层的输出。
Bias:
- name: batch_norm_0.b_0
  - 表示批量归一化的偏置项参数。
Mean:
- name: batch_norm_0.w_1
  - 表示批量归一化过程中的均值参数。
Scale:
- name: batch_norm_0.w_0
  - 表示批量归一化的缩放系数参数。
Variance:
- name: batch_norm_0.w_2
  - 表示批量归一化过程中的方差参数。

Outputs（输出）

Y:
- name: batch_norm_0.tmp_3
  - 这是批量归一化后的输出张量，供下一层使用。
MeanOut:
- name: batch_norm_0.w_1
  - 这是更新后的均值，输出供后续使用或保存。
SavedMean:
- name: batch_norm_0.tmp_0
  - 保存的均值值，供测试或推断时使用。
SavedVariance:
- name: batch_norm_0.tmp_1
  - 保存的方差值，供测试或推断时使用。
VarianceOut:
- name: batch_norm_0.w_2
  - 更新后的方差，输出供后续使用或保存。

relu节点

Node Properties（节点属性）

type（类型）:
- relu: 表示这个节点是一个 ReLU 激活函数层。

Attributes（属性）

op_device（操作设备）:
- 空白: 这指示该节点计算所在的设备。如果为空，表示使用默认设备，例如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 这表示该操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。

Inputs（输入）

X:
- name: batch_norm_0.tmp_3
  - 这是输入张量，通常是来自前一层（如批量归一化层）的输出。

Outputs（输出）

Out:
- name: relu_0.tmp_0
  - 这是 ReLU 操作的输出张量，供下一层使用。

Softmax 节点

Softmax 层通常用于模型的输出层，特别是在分类任务中，能够将输出转换为概率分布。详细解释：

Node Properties（节点属性）

type（类型）:
- softmax: 表示这个节点是一个 Softmax 激活函数层。

Attributes（属性）

axis（轴）:
- -1: 这是应用 Softmax 操作的轴，-1 表示最后一个轴。在这里，最后一个轴通常对应于类的得分。
data_format（数据格式）:
- AnyLayout: 表示数据布局可以是任意的，Softmax 操作可以适应不同的数据格式（例如 NCHW 或 NHWC）。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，比如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /: 这是操作所属的命名空间，通常用于组织和管理操作。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
use_cudnn:
- true: 表示是否使用 cuDNN 库对 Softmax 操作进行加速优化。cuDNN 是 NVIDIA 提供的 GPU 加速库。

Inputs（输入）

X:
- name: linear_1.tmp_1
  - 这是输入张量，通常是来自前一层（如线性全连接层或 logits 输出层）的输出。

Outputs（输出）

Out:
- name: softmax_1.tmp_0
  - 这是 Softmax 操作的输出张量，通常为概率分布形式，供最终的分类结果使用。

matmul_v2节点

矩阵乘法是深度学习模型中的基础组成部分，通常用于全连接层（又称为线性层）。详细的解释：

Node Properties（节点属性）

type（类型）:
- matmul_v2: 表示这个节点是一个矩阵乘法操作。

Attributes（属性）

op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，比如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 这表示该操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
trans_x:
- false: 表示乘法操作中是否对矩阵 X 进行转置。false 表示不转置。
trans_y:
- false: 表示乘法操作中是否对矩阵 Y 进行转置。false 表示不转置。

Inputs（输入）

X:
- name: flatten_1.tmp_0
  - 这是输入张量，通常是来自前一层（如展平层）的输出。
Y:
- name: linear_0.w_0
  - 这是权重张量，通常是全连接层的权重参数矩阵。

Outputs（输出）

Out:
- name: linear_1.tmp_0
  - 这是矩阵乘法操作的输出张量，供下一层使用。

flatten_contiguous_range节点

flatten_contiguous_range 的主要作用是将多维张量展平为一维张量，有助于在神经网络模型中从卷积层过渡到全连接层。详细的解释：

Node Properties（节点属性）

type（类型）:
- flatten_contiguous_range: 表示这个节点是一个将张量展平的操作。

Attributes（属性）

op_callback（操作回调堆栈）:
- 列出了操作调用的堆栈跟踪信息，帮助调试和定位问题。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 这表示该操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
start_axis（起始轴）:
- 1: 从第1轴开始展平。
stop_axis（终止轴）:
- 3: 到第3轴结束展平。
with_quant_attr:
- false: 表示该操作是否包含量化属性。这里为 false，表示不包含量化属性。

Inputs（输入）

X:
- name: pool2d_4.tmp_0
  - 这是输入张量，通常是来自前一层（如池化层）的输出。

Outputs（输出）

Out:
- name: flatten_1.tmp_0
  - 这是展平操作后的输出张量，供下一层使用。
XShape:
- name: flatten_1.tmp_1
  - 表示输出张量的形状信息，供调试或其他用途。

elementwise_add节点

elementwise_add 操作是按元素进行相加的操作，通常用于残差连接（ResNet）中，实现从两层输出的逐元素相加。详细解释：

Node Properties（节点属性）

type（类型）:
- elementwise_add: 表示这个节点是逐元素相加操作。

Attributes（属性）

axis（轴）:
- -1: 表示沿着最后一个轴进行相加操作。这是默认配置，表示逐元素相加。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，例如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 表示操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。

Inputs（输入）

X:
- name: batch_norm_5.tmp_3
  - 输入张量X，通常是来自某一层（如批量归一化层）的输出。
Y:
- name: batch_norm_6.tmp_3
  - 输入张量Y，通常是来自另一层（如另一个批量归一化层）的输出。

Outputs（输出）

Out:
- name: elementwise_add_0
  - 输出张量，表示逐元素相加操作的结果，供下一层使用。

pood2d节点

池化操作在卷积神经网络中用于下采样，减少特征图的尺寸，同时保留重要的特征。详细解释：

Node Properties（节点属性）

type（类型）:
- pool2d: 表示这个节点是一个二维池化操作。

Attributes（属性）

adaptive（自适应）:
- false: 表示是否使用自适应池化。如果为 true，则输出尺寸由 output_size 参数决定，而不是通过池化窗口和步长计算得出。
ceil_mode（天花板模式）:
- false: 表示是否使用天花板模式。如果为 true，则在计算输出维度时向上取整；如果为 false，则向下取整。
data_format（数据格式）:
- NCHW: 表示数据的存储顺序，分别是 Batch size (N)，Channels (C)，Height (H)，Width (W)。这种格式主要在框架如 PyTorch 和 PaddlePaddle 中使用。
exclusive（独占模式）:
- true: 这通常用于平均池化，表示池化窗口中只计算不包含边界的位置。
global_pooling（全局池化）:
- false: 表示是否使用全局池化。如果为 true，则不使用池化窗口，直接将特征图的高度和宽度缩减为1。
ksize（窗口大小）:
- 3, 3: 表示池化窗口的大小，这里是 3x3 的窗口。
op_device（操作设备）:
- 空白: 需要指定该节点计算所在的设备。如果为空，表示使用默认设备，如 CPU 或 GPU。
op_namespace（操作命名空间）:
- /_use_fp16__/: 表示操作使用的是 16 位浮点数（Float16）的计算精度。
op_role（操作角色）:
- 0: 表示操作在计算图中的角色，通常用于框架内部的优化和分配。
op_role_var（操作角色变量）:
- 空白: 用于进一步指定操作相关的变量。
padding_algorithm（填充算法）:
- EXPLICIT: 表示填充方式是明确指定的（Explicit Padding），非自动推断（如 SAME、VALID 等）。
paddings（填充）:
- 1, 1: 表示在池化操作中在每个方向上添加的填充量。这意味着在高度和宽度方向各添加1个单位的填充。
pooling_type（池化类型）:
- max: 表示池化类型是最大池化（Max Pooling），即选择池化窗口中的最大值作为输出。
strides（步长）:
- 2, 2: 表示池化窗口在高度和宽度方向上的移动步长是2，即每隔2个单位进行一次池化操作。