1. 普通神经网络在处理图像时遇到的问题
图像的每个像素，都可以看作是特征值。1000x1000的图片，就有100万个特征值。如果把100万个特征值输入到全连接神经网络，参数过多就会导致计算量过大、内存爆炸
- 输入层神经元 [None, 10^6]
- 全连接层 [10^6, 10^6]，大小10^12
参数过多还容易导致过拟合。神经网络每记住训练集的所有参数，导致神经网络的表达能力过强（泛化能力过弱）
如何解决这个问题呢？想象一张图片，某个像素点与其周围像素点的关联较强。例如眼睛中的像素点与周围其它像素点的关联很大，因为它们共同代表了眼睛，但是和距离它较远的头发上的像素点关联并不大，因为它们代表不同的特征。
对于一个图片序列数据，特征值具有区域性，基于这一特点，我们可以将全连接改为局部连接，从而降低它的参数量
2. 卷积神经网络的发展历史
3. 卷积神经网络的结构分析
神经网络(neural networks)的基本组成包括输入层、隐藏层、输出层。而卷积神经网络的特点在于隐藏层分为卷积层和池化层(pooling layer，又叫下采样层)
- 卷积层：通过在原始图像上平移来提取特征，每一个特征就是一个特征映射
- 池化层：通过特征后稀疏参数来减少学习的参数，降低网络的复杂度，（最大池化和平均池化）
