南通网站优化,阳西县网络问政平台,做网站要不要服务器,有哪些有趣的网站普通池化操作看这里#xff1a;最大池化#xff08;Max Pooling#xff09;和平均池化#xff08;Average Pooling#xff09;
全局池化#xff08;Global Pooling#xff09; 是一种特殊的池化方法#xff0c;主要包括#xff1a;
全局平均池化#xff08;Global …普通池化操作看这里最大池化Max Pooling和平均池化Average Pooling
全局池化Global Pooling 是一种特殊的池化方法主要包括
全局平均池化Global Average Pooling, GAP全局最大池化Global Max Pooling, GMP 在经过全局池化后特征图形状会从[b,c,h,w]变为[b,c,1,1] 1. 全局平均池化Global Average Pooling, GAP
与普通的池化操作不同GAP不再使用局部窗口而是直接对整个特征图的空间维度进行池化使每个通道输出一个值。 这种操作可以将特征图从三维height x width x channels转化为一维向量1 x 1 x channels便于后续的全连接层进行分类或其他任务。 计算方式
如果特征图的某个通道为 3x3数值如下
1 2 3
4 5 6
7 8 9那么经过 GAP 操作后这个通道的输出就是 (123456789) / 9 5。
2. 全局最大池化Global Max Pooling, GMP
全局最大池化会在每个通道中取最大值作为该通道的特征。
同样对于形状 [batch_size, channels, height, width] 的特征图经过 GMP 后的输出形状为 [batch_size, channels, 1, 1] 或 [batch_size, channels]。
计算方式
对于一个特征图通道的 3x3 窗口
1 2 3
4 5 6
7 8 9GMP 操作会输出 9即这个窗口中的最大值。
3. 全局池化的作用和优势 减少参数相比使用全连接层全局池化能极大地减少参数数量使模型更加轻量减少过拟合风险。 位置不变性全局池化关注整个通道的整体特征而不局限于特定位置有利于提取全局特征。 避免过拟合由于没有全连接层带来的大量参数全局池化特别适合处理小数据集提高模型泛化能力。 减少计算量特别适合在移动设备上进行轻量级模型的部署。
4. 全局池化在 CNN 中的应用
在 CNN 中全局池化常被用于分类任务的最后一层。在提取完空间特征之后利用全局池化生成每个通道的全局特征再接一个全连接层或直接用于分类。
