分类猫和狗的图片

• 使用一个还不错的相机采集图片（12M像素）

• RGB图片有36M元素

• 使用100大小的单隐藏层MLP，模型有3.6B元素
• 远多于世界上所有猫和狗总数（900M狗，600M猫）

两个原则

• 平移不变性

• 局部性

重新考察全连接层

• 将输入和输出变形为矩阵（宽度，高度）

• 将权重变形为4-D张量到

• 是的重新索引：

总结

• 对全连接层使用平移不变性和局部性得到卷积层

一维和三维交叉相关

• 一维：
• 文本
• 语言
• 时序序列

• 三维
• 视频
• 医学图像
• 气象地图

总结

• 卷积层将输入和核矩阵进行交叉相关，加上偏移后得到输出

• 核矩阵和偏移是可学习的参数

• 核矩阵的大小是超参数