求网站备案照片,使用iis搭建网站,内蒙古网站建设熊掌号,怎么建设一个宣传网站1 VGGNet
1.1 模型介绍
VGGNet是由牛津大学视觉几何小组#xff08;Visual Geometry Group, VGG#xff09;提出的一种深层卷积网络结构#xff0c;他们以7.32%的错误率赢得了2014年ILSVRC分类任务的亚军#xff08;冠军由GoogLeNet以6.65%的错误率夺得#xff09;和…1 VGGNet
1.1 模型介绍
VGGNet是由牛津大学视觉几何小组Visual Geometry Group, VGG提出的一种深层卷积网络结构他们以7.32%的错误率赢得了2014年ILSVRC分类任务的亚军冠军由GoogLeNet以6.65%的错误率夺得和25.32%的错误率夺得定位任务Localization的第一名GoogLeNet错误率为26.44% [ 5 ] ^{[5]} [5]网络名称VGGNet取自该小组名缩写。VGGNet是首批把图像分类的错误率降低到10%以内模型同时该网络所采用的 3 × 3 3\times3 3×3卷积核的思想是后来许多模型的基础该模型发表在2015年国际学习表征会议International Conference On Learning Representations, ICLR后至今被引用的次数已经超过1万4千余次。
1.2 模型结构 图 1 VGG16网络结构图
在原论文中的VGGNet包含了6个版本的演进分别对应VGG11、VGG11-LRN、VGG13、VGG16-1、VGG16-3和VGG19不同的后缀数值表示不同的网络层数VGG11-LRN表示在第一层中采用了LRN的VGG11VGG16-1表示后三组卷积块中最后一层卷积采用卷积核尺寸为 1 × 1 1\times1 1×1相应的VGG16-3表示卷积核尺寸为 3 × 3 3\times3 3×3本节介绍的VGG16为VGG16-3。图1中的VGG16体现了VGGNet的核心思路使用 3 × 3 3\times3 3×3的卷积组合代替大尺寸的卷积2个 3 × 3 卷积即可与 3\times3卷积即可与 3×3卷积即可与 5 × 5 5\times5 5×5卷积拥有相同的感受视野网络参数设置如表2所示。
表2 VGG16网络参数配置
网络层输入尺寸核尺寸输出尺寸参数个数卷积层 C 11 C_{11} C11 224 × 224 × 3 224\times224\times3 224×224×3 3 × 3 × 64 / 1 3\times3\times64/1 3×3×64/1 224 × 224 × 64 224\times224\times64 224×224×64 ( 3 × 3 × 3 1 ) × 64 (3\times3\times31)\times64 (3×3×31)×64卷积层 C 12 C_{12} C12 224 × 224 × 64 224\times224\times64 224×224×64 3 × 3 × 64 / 1 3\times3\times64/1 3×3×64/1 224 × 224 × 64 224\times224\times64 224×224×64 ( 3 × 3 × 64 1 ) × 64 (3\times3\times641)\times64 (3×3×641)×64下采样层 S m a x 1 S_{max1} Smax1 224 × 224 × 64 224\times224\times64 224×224×64 2 × 2 / 2 2\times2/2 2×2/2 112 × 112 × 64 112\times112\times64 112×112×64 0 0 0卷积层 C 21 C_{21} C21 112 × 112 × 64 112\times112\times64 112×112×64 3 × 3 × 128 / 1 3\times3\times128/1 3×3×128/1 112 × 112 × 128 112\times112\times128 112×112×128 ( 3 × 3 × 64 1 ) × 128 (3\times3\times641)\times128 (3×3×641)×128卷积层 C 22 C_{22} C22 112 × 112 × 128 112\times112\times128 112×112×128 3 × 3 × 128 / 1 3\times3\times128/1 3×3×128/1 112 × 112 × 128 112\times112\times128 112×112×128 ( 3 × 3 × 128 1 ) × 128 (3\times3\times1281)\times128 (3×3×1281)×128下采样层 S m a x 2 S_{max2} Smax2 112 × 112 × 128 112\times112\times128 112×112×128 2 × 2 / 2 2\times2/2 2×2/2 56 × 56 × 128 56\times56\times128 56×56×128 0 0 0卷积层 C 31 C_{31} C31 56 × 56 × 128 56\times56\times128 56×56×128 3 × 3 × 256 / 1 3\times3\times256/1 3×3×256/1 56 × 56 × 256 56\times56\times256 56×56×256 ( 3 × 3 × 128 1 ) × 256 (3\times3\times1281)\times256 (3×3×1281)×256卷积层 C 32 C_{32} C32 56 × 56 × 256 56\times56\times256 56×56×256 3 × 3 × 256 / 1 3\times3\times256/1 3×3×256/1 56 × 56 × 256 56\times56\times256 56×56×256 ( 3 × 3 × 256 1 ) × 256 (3\times3\times2561)\times256 (3×3×2561)×256卷积层 C 33 C_{33} C33 56 × 56 × 256 56\times56\times256 56×56×256 3 × 3 × 256 / 1 3\times3\times256/1 3×3×256/1 56 × 56 × 256 56\times56\times256 56×56×256 ( 3 × 3 × 256 1 ) × 256 (3\times3\times2561)\times256 (3×3×2561)×256下采样层 S m a x 3 S_{max3} Smax3 56 × 56 × 256 56\times56\times256 56×56×256 2 × 2 / 2 2\times2/2 2×2/2 28 × 28 × 256 28\times28\times256 28×28×256 0 0 0卷积层 C 41 C_{41} C41 28 × 28 × 256 28\times28\times256 28×28×256 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 28 × 28 × 512 28\times28\times512 28×28×512 ( 3 × 3 × 256 1 ) × 512 (3\times3\times2561)\times512 (3×3×2561)×512卷积层 C 42 C_{42} C42 28 × 28 × 512 28\times28\times512 28×28×512 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 28 × 28 × 512 28\times28\times512 28×28×512 ( 3 × 3 × 512 1 ) × 512 (3\times3\times5121)\times512 (3×3×5121)×512卷积层 C 43 C_{43} C43 28 × 28 × 512 28\times28\times512 28×28×512 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 28 × 28 × 512 28\times28\times512 28×28×512 ( 3 × 3 × 512 1 ) × 512 (3\times3\times5121)\times512 (3×3×5121)×512下采样层 S m a x 4 S_{max4} Smax4 28 × 28 × 512 28\times28\times512 28×28×512 2 × 2 / 2 2\times2/2 2×2/2 14 × 14 × 512 14\times14\times512 14×14×512 0 0 0卷积层 C 51 C_{51} C51 14 × 14 × 512 14\times14\times512 14×14×512 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 14 × 14 × 512 14\times14\times512 14×14×512 ( 3 × 3 × 512 1 ) × 512 (3\times3\times5121)\times512 (3×3×5121)×512卷积层 C 52 C_{52} C52 14 × 14 × 512 14\times14\times512 14×14×512 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 14 × 14 × 512 14\times14\times512 14×14×512 ( 3 × 3 × 512 1 ) × 512 (3\times3\times5121)\times512 (3×3×5121)×512卷积层 C 53 C_{53} C53 14 × 14 × 512 14\times14\times512 14×14×512 3 × 3 × 512 / 1 3\times3\times512/1 3×3×512/1 14 × 14 × 512 14\times14\times512 14×14×512 ( 3 × 3 × 512 1 ) × 512 (3\times3\times5121)\times512 (3×3×5121)×512下采样层 S m a x 5 S_{max5} Smax5 14 × 14 × 512 14\times14\times512 14×14×512 2 × 2 / 2 2\times2/2 2×2/2 7 × 7 × 512 7\times7\times512 7×7×512 0 0 0全连接层 F C 1 FC_{1} FC1 7 × 7 × 512 7\times7\times512 7×7×512 ( 7 × 7 × 512 ) × 4096 (7\times7\times512)\times4096 (7×7×512)×4096 1 × 4096 1\times4096 1×4096 ( 7 × 7 × 512 1 ) × 4096 (7\times7\times5121)\times4096 (7×7×5121)×4096全连接层 F C 2 FC_{2} FC2 1 × 4096 1\times4096 1×4096 4096 × 4096 4096\times4096 4096×4096 1 × 4096 1\times4096 1×4096 ( 4096 1 ) × 4096 (40961)\times4096 (40961)×4096全连接层 F C 3 FC_{3} FC3 1 × 4096 1\times4096 1×4096 4096 × 1000 4096\times1000 4096×1000 1 × 1000 1\times1000 1×1000 ( 4096 1 ) × 1000 (40961)\times1000 (40961)×1000
1.3 模型特性
整个网络都使用了同样大小的卷积核尺寸 3 × 3 3\times3 3×3和最大池化尺寸 2 × 2 2\times2 2×2。 1 × 1 1\times1 1×1卷积的意义主要在于线性变换而输入通道数和输出通道数不变没有发生降维。两个 3 × 3 3\times3 3×3的卷积层串联相当于1个 5 × 5 5\times5 5×5的卷积层感受野大小为 5 × 5 5\times5 5×5。同样地3个 3 × 3 3\times3 3×3的卷积层串联的效果则相当于1个 7 × 7 7\times7 7×7的卷积层。这样的连接方式使得网络参数量更小而且多层的激活函数令网络对特征的学习能力更强。VGGNet在训练时有一个小技巧先训练浅层的的简单网络VGG11再复用VGG11的权重来初始化VGG13如此反复训练并初始化VGG19能够使训练时收敛的速度更快。在训练过程中使用多尺度的变换对原始数据做数据增强使得模型不易过拟合。
