深度学习-瓶颈结构（Bottleneck）

1. 简介

论文：Deep Residual Learning for Image Recognition

ResNet的核心内容之一即“Deeper Bottleneck Architectures”（简称DBA），一言概之，boTTLeneck是一种特殊的残差结构。

Resnet论文里的原图如上（即Bottleneck V1 ），左图是普通的残差结构，右图是瓶颈结构。具体而言，block的输入和输出channel_num是一样的（上右图中是256，左图为64），

而在block结构中的channel_num（上右图中是64）是小于输入/输出channel_num（256），很形象。也就是先降维再升维。

2. 作用

换成bottleneck design以后，网络的参数减少了很多，深度也加深了，训练也就相对容易一些。

参考：

深度学习基础–Bottleneck(瓶颈) Architectures