1、1 x 1 卷积核的作用

• 增加非线性：1x1 卷积与激活函数结合使用，对多个输入通道进行加权求和，产生新的通道的非线性组合，增强网络的表示能力。

• 通道数的压缩与扩展：1x1 卷积核可以在不改变空间分辨率的情况下，进行特征图通道数的变换，可以压缩通道数减小计算量和参数量，也可以扩展通道数增加网络的表达能力。

• 实现跨通道信息交互：1x1 卷积核通过将输入特征图的每个激活值的不同通道进行线性加权，实现了通道间的线性变换，将不同通道的特征信息进行混合，进而生成新的特征图。

2、卷积神经网络的参数量和感受野

对于AlexNet，要学习的参数共有多少个？

卷积神经网络中池化层没有参数,参数来源于卷积层的卷积核：

$$parameters=((K\times K)\times C_{in})\times C_{out}+C_{out}$$
其中$K\times K$是卷积核大小，$C_{in}$是输入通道数，$C_{out}$是输出通道数。

对于AlexNet的卷积层：

• CONV1：卷积核大小为11x11，输入通道数为3，输出通道数为96：
  $ {parameters}_{conv1}\ =\ 11\times11\times3\times96+96=34944 $

• CONV2：卷积核大小为5x5，输入通道数为96，输出通道数为256：
  $ {parameters}_{conv2}\ =\ 5\times5\times96\times256+256=614656 $

• CONV3：卷积核大小为3x3，输入通道数为256，输出通道数为384：
  ${parameters}_{conv3}=3\times 3\times 256\times 384+384=885120$

• CONV4：卷积核大小为3x3，输入通道数为384，输出通道数为384：
  ${parameters}_{conv4}=3\times 3\times 384\times 384+384=1327488$

• CONV5：卷积核大小为3x3，输入通道数为384，输出通道数为256：
  ${parameters}_{conv5}=3\times 3\times 384\times 256+256=884992$

对于全连接层：

• FC1：${parameters}_{FC1}=6\times 6\times 256\times 4096+4096=37752832$

• FC2：${parameters}_{FC2}=4069\times 4096+4096=16781312$

• FC3：${parameters}_{FC3}=4096\times 1000+1000=4097000$

总参数量为：
$$parameters=34944+614656+885120+1327488+884992+37752832+16781312+4097000=62378344$$

CONV3中任何一个特征元素，对应于在 Input 中多大区域中提取的信息（即在输入图中的感受野是多少）

卷积层和池化层都会影响感受野，从下往上计算每一层感受野的公式如下：
$${RF}_i=\left({RF}_{i+1}-1\right)\times S_i+k_i$$
其中, ${RF}_i$ 表示第i层的感受野, ${RF}_{i+1}$ 表示第i+1层的感受野, $k_i$ 表示卷积核的大小，$S_i$ 表示第i层卷积的步长。依据公式从${CONV}_3$ 开始，逐层推导感受野的大小。

对于 ${CONV}_3 $，感受野大小为卷积核大小：
${RF}_5=3$

对于 ${\mathrm{MAXPOOL}}_2$，池化操作大小为 $3\times 3$，步长为2，感受野变为：
${RF}_4=\left({RF}_5-1\right)\times2+3=7 $

对于${CONV}_2$，卷积核大小为$5\times 5$，步长为1，感受野变为：
${RF}_3=\left({RF}_4-1\right)\times 1+5=11$

对于${\mathrm{MAXPOOL}}_1$：池化操作大小为$3\times 3$，步长为2，感受野变为：
${RF}_2=\left({RF}_3-1\right)\times 2+3=23$

对于${CONV}_1$：卷积核大小为$11\times 11$，步长为4，感受野变为：
${RF}_1=\left({RF}_2-1\right)\times 4+11=99$

因此，${CONV}_3$ 层的感受野为 $99\times 99$，每个特征元素在输入图像上所对应的区域大小是$99\times 99$。

3、卷积转化为仿射变换

对于一个二维卷积，输入为 3×3，卷积核大小为 2×2，试将卷积操作重写为仿射变换的形式。

1）定义卷积操作：假设使用无填充的二位卷积操作，步长为 1，假设输入为一个 3×3 的矩阵$X$，卷积核为一个 2×2 的矩阵$W$。卷积操作可以表示为：

$$Y_{ij}=\sum _{p=1}^2\sum _{q=1}^2{w}_{pq}{X}_{i+p-1,j+q-1}$$

$Y_{ij}$表示输出矩阵中的第 $i$ 行第 $j$ 列元素，$w_{p,q}$ 是卷积核的元素，$X_{i+p-1,j+q-1}$是输入矩阵中对应位置的元素。

2）提取滑动窗口并展平：对于一个特定的输出位置$(i,j)$，我们需要从输入矩阵中提取一个大小为 2×2 的滑动窗口$X_{ij}$，并展平为一维列向量$x_{ij}$：

$${\mathbf{x}}_{ij}=flatten(X_{ij})=[x_{i,j},x_{i,j+1},x_{i+1,j},x_{i+1,j+1}{]}^T$$

3）展平卷积核：将 2×2 的卷积核展平为一维列向量：

$$\mathbf{w}=flatten(W_{ij})=[w_{1,1},w_{1,2},w_{2,1},w_{2,2}{]}^T$$

4）使用向量形式表示卷积操作：对于每个输出位置 ( (i,j) )，卷积操作会通过将输入子矩阵和卷积核之间进行逐元素的乘积，并求和来计算输出，表示为：

$$y_{ij}={\mathbf{w}}^T{\mathbf{x}}_{\mathbf{ij}}+b$$

其中 $b$ 是偏置项。

5）构建仿射变换形式：由上述推导可以发现，卷积操作可以表示为一个仿射变换，其中每个输出位置的计算通过以下矩阵运算得到：
$$\mathbf{y}=\mathbf{Wx}+\mathbf{b}$$

$\mathbf{x}\in R^{3\times 3}$是输入矩阵X展平得到的列向量，表示为：
$$\mathbf{x}=\left[\begin{array}{c}{x}_{11}\\ x_{12}\\ x_{13}\\ x_{21}\\ x_{22}\\ x_{23}\\ x_{31}\\ x_{32}\\ x_{33}\end{array}\right]$$
$\mathbf{b}\in R^{2\times 2}$是偏置向量，每个元素表示输出矩阵中每个元素的偏置，表示为：
$$\mathbf{b}=\left[\begin{array}{c}{b}_1\\ b_2\\ b_3\\ b_4\end{array}\right]$$

$\mathbf{W}\in R^{4\times 9}$是一个稀疏矩阵，具体表示为：
$$\mathbf{W}=\left[\begin{array}{ccccccccc}{w}_{11}& w_{12}& 0& w_{21}& w_{22}& 0& 0& 0& 0\\ 0& w_{11}& w_{11}& 0& w_{21}& w_{22}& 0& 0& 0\\ 0& 0& 0& w_{11}& w_{12}& 0& w_{21}& w_{22}& 0\\ 0& 0& 0& 0& w_{11}& w_{12}& 0& w_{21}& w_{22}\end{array}\right]$$
仿射变换的计算结果$\mathbf{y}\in R^{2\times 2}$是输出矩阵$\mathbf{y}$展平后的列向量:

$$\mathbf{y}=\left[\begin{array}{c}{w_{11}{x}_{11}+w_{12}{x}_{12}+w_{21}{x}_{21}+w_{22}{x}_{22}+b}_1\\ {w_{11}{x}_{12}+w_{12}{x}_{13}+w_{21}{x}_{22}+w_{22}{x}_{23}+b}_2\\ w_{11}{x}_{21}+w_{12}{x}_{22}+w_{21}{x}_{31}+w_{22}{x}_{32}+b_3\\ w_{11}{x}_{22}+w_{12}{x}_{33}+w_{21}{x}_{32}+w_{22}{x}_{33}+b_4\end{array}\right]$$