回答思路

我主要是做CV的，就按照学术界的发展进程，讲讲CV相关的深度学习模型吧

图像分类（该阶段主要是参加ILSVRC-ImageNet比赛，提高ImageNet数据集的结果，以下模型基本都是历年比赛的冠军模型）LeNet手写数字识别，开山之作；结构很简单，就是卷积池化、卷积池化，最后是全连接

AlexNet因为受限于显存大小，作为副产品，提出了分组卷积；网络结构更深，使用了relu激活函数、使用max pooling替代mean pooling，使用了dropout

VGGNet使用3x3、1x1的卷积核，取代之前网络的大卷积核（如7x7）； 网络深度达到19层

Inception and GoogLeNet谷歌提出的模型，致敬LeNet； 之前模型都是往深度考虑，inception网络则是往宽度考虑

ResNet何凯明大佬的经典论文，残差思想很棒；残差可以缓解梯度消失和梯度爆炸，网络深度达到152层等等

目标检测（以下模型主要是基于VOC数据集、COCO数据集）FasterRCNN rgb大神很经典的文章，至今仍在沿用

MaskRCNN也是何凯明大佬优化的，还实现了语义分割

YOLO一系列

SSD单阶段网络

Center Net网络

针对移动端优化的模型MobileNet一系列

ShuffleNet一系列

GhostNet

SqueezeNet

等等