第一届ImageNet 竞赛的冠军 Alex Krizhevsky (NIPS 2012) 由 Yann LeCun 开创的深度卷积神经网络 。其结构包括7个隐藏层,不包括一些最大池化层 。前5层是卷积层,最后2层是全连接层 。每个隐藏层的激活函数是ReLU 。这些训练比逻辑单元更快更有表达力 。除此之外,当相近的单元有更强的激活值,它还用竞争的归一化来抑制隐藏的活动 。这有助于强度的变化 。

文章插图
在硬件要求方面,Alex在2个Nvidia GTX 580 GPU(超过1000个快速小内核)上使用了非常有效的卷积网络实现 。GPU非常适合矩阵矩阵乘法,并且具有非常高的存储器带宽 。这使他能够在一周内训练网络,并在测试时快速组合10个补丁的结果 。如果我们能够足够快地传达状态,我们可以在多个核心上传播网络 。随着核心变得越来越便宜而数据集越来越大,大型神经网络的改进速度将超过老式的计算机视觉系统 。自AlexNet以来,已有多种新型号使用CNN作为其骨干架构,并在ImageNet中取得了出色的成果:ZFNet(2013),GoogLeNet(2014),VGGNet(2014),ResNet(2015),DenseNet(2016)等 。
2--目标检测

文章插图
在图像中定义目标的任务通常涉及单个目标的边界框和标签的输出 。这与分类/定位任务的不同之处在于,它将分类和定位应用于许多目标,而不仅仅是一个主导目标 。你只有2类目标分类,即目标边界框和非目标边界框 。例如,在汽车检测中,您必须使用其边界框检测给定图像中的所有汽车 。
如果我们就像对图像进行分类和定位的方式使用滑动窗口技术,我们需要将CNN应用于图像的许多不同位置 。因为CNN将每个位置分类为目标或背景,我们需要在CNN中应用许多的位置和不同比例,计算上是非常昂贵的!

文章插图
为了处理这种情况,神经网络研究人员已经提出使用区域来代替,在那里我们找到可能包含目标的“blobby”图像区域 。这个区域运行起来相对较快 。第一个引人注目的模型是 R-CNN(基于区域的卷积神经网络) 。在R-CNN中,我们首先使用称为选择性搜索的算法扫描输入图像以寻找可能的目标,生成约2,000个候选区域 。然后我们在每个区域框的基础上运行CNN 。最后,我们获取每个CNN的输出并将其输入到SVM以对区域进行分类,并使用线性回归来收紧目标的边界框 。
基本上,我们将目标检测转变成了图像分类问题 。但是,存在一些问题 - 训练缓慢,需要大量磁盘空间,推理也很慢 。
R-CNN的直接后代是快速R-CNN,它通过2次增强提高了检测速度:1)在侯选区域之前执行特征提取,因此在整个图像上仅运行一个CNN,以及2)用softmax层替换SVM ,从而扩展神经网络的预测,而不是创建一个新的模型 。

文章插图
快速R-CNN在速度方面表现得更好,因为它只为整个图像训练一个CNN 。但是,选择性搜索算法仍然需要花费大量时间来生成候选区域 。
因此,发现了更快的R-CNN,它现在是用于基于深度学习的目标检测的规范模型 。通过插入区域生成网络(RPN)来预测来自特征的区域,它用快速神经网络取代慢的选择性搜索算法 。RPN用于决定“在哪里”以减少整个推理过程的计算要求 。RPN快速有效地扫描每个位置,以评估是否需要在给定区域中进行进一步处理 。它通过输出k个边界框区域来做到这一点,每个区域具有2个分数,表示每个位置处目标的概率 。

文章插图
一旦我们获得了我们的候选区域,我们就会直接将它们提供给基本上是快速R-CNN的内容 。我们添加了一个池化层,一些全连接层,最后是一个softmax分类层和边界框回归器 。
总而言之,更快的R-CNN实现了更好的速度和更高的精度 。值得注意的是,尽管未来的模型在提高检测速度方面做了很多工作,但很少有模型能够以更高的优势超越更快的R-CNN 。换句话说,更快的R-CNN可能不是最简单或最快的目标检测方法,但它仍然是表现最好的方法之一 。
近年来的主要目标检测趋势已转向更快,更有效的检测系统 。这在诸如You Only Look Once(YOLO),Single Shot MultiBox Detector(SSD)和基于区域的完全卷积网络(R-FCN)等方法中可见,作为在整个图像上共享计算的一种方法 。因此,这些方法将自己与3种R-CNN技术相关联的昂贵子网区分开来 。这些趋势背后的主要原因是避免让单独的算法孤立地关注各自的子问题,因为这通常会增加训练时间并降低网络准确性 。
- 柴犬嘴巴黑
- 狗脚掌肉垫破了怎么办 这种情况就需要及时进行处理啊!
- 披萨盒子能放微波炉吗
- 狗被蜜蜂蛰会自愈吗 这种想法你真的想过了吗?
- 哈士奇容易生病吗 总是踩这些雷当然容易生病
- ,开辟鸿蒙,谁为情种。都只为风月情浓。趁着这奈何天,伤怀日,寂缪时……
- 荔枝这么甜,怎么会引发低血糖?
- 柴犬腿细是锻炼不够吗
- 狗游泳有好处吗 狗狗游泳的好处原来有这么多
- 狗什么部位不能摸 这三个部位最好别乱摸