0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

詳細講解SDD算法的原理

新機器視覺 ? 來源:計算機視覺聯(lián)盟 ? 作者:計算機視覺聯(lián)盟 ? 2021-03-20 09:32 ? 次閱讀

前言

目標(biāo)檢測近年來已經(jīng)取得了很重要的進展,主流的算法主要分為兩個類型(參考RefineDet):(1)two-stage方法,如R-CNN系算法,其主要思路是先通過啟發(fā)式方法(selective search)或者CNN網(wǎng)絡(luò)(RPN)產(chǎn)生一系列稀疏的候選框,然后對這些候選框進行分類與回歸,two-stage方法的優(yōu)勢是準(zhǔn)確度高;(2)one-stage方法,如Yolo和SSD,其主要思路是均勻地在圖片的不同位置進行密集抽樣,抽樣時可以采用不同尺度和長寬比,然后利用CNN提取特征后直接進行分類與回歸,整個過程只需要一步,所以其優(yōu)勢是速度快,但是均勻的密集采樣的一個重要缺點是訓(xùn)練比較困難,這主要是因為正樣本與負樣本(背景)極其不均衡(參見Focal Loss),導(dǎo)致模型準(zhǔn)確度稍低。不同算法的性能如圖1所示,可以看到兩類方法在準(zhǔn)確度和速度上的差異。

圖1 不同檢測算法的性能對比

本文講解的是SSD算法,其英文全名是Single Shot MultiBox Detector,名字取得不錯,Single shot指明了SSD算法屬于one-stage方法,MultiBox指明了SSD是多框預(yù)測。在上一篇文章中我們已經(jīng)講了Yolo算法,從圖1也可以看到,SSD算法在準(zhǔn)確度和速度(除了SSD512)上都比Yolo要好很多。圖2給出了不同算法的基本框架圖,對于Faster R-CNN,其先通過CNN得到候選框,然后再進行分類與回歸,而Yolo與SSD可以一步到位完成檢測。相比Yolo,SSD采用CNN來直接進行檢測,而不是像Yolo那樣在全連接層之后做檢測。其實采用卷積直接做檢測只是SSD相比Yolo的其中一個不同點,另外還有兩個重要的改變,一是SSD提取了不同尺度的特征圖來做檢測,大尺度特征圖(較靠前的特征圖)可以用來檢測小物體,而小尺度特征圖(較靠后的特征圖)用來檢測大物體;二是SSD采用了不同尺度和長寬比的先驗框(Prior boxes, Default boxes,在Faster R-CNN中叫做錨,Anchors)。Yolo算法缺點是難以檢測小目標(biāo),而且定位不準(zhǔn),但是這幾點重要改進使得SSD在一定程度上克服這些缺點。下面我們詳細講解SDD算法的原理,并最后給出如何用TensorFlow實現(xiàn)SSD算法。

1b531472-88ef-11eb-8b86-12bb97331649.jpg

圖2 不同算法的基本框架圖設(shè)計理念

SSD和Yolo一樣都是采用一個CNN網(wǎng)絡(luò)來進行檢測,但是卻采用了多尺度的特征圖,其基本架構(gòu)如圖3所示。下面將SSD核心設(shè)計理念總結(jié)為以下三點:

圖3 SSD基本框架

(1)采用多尺度特征圖用于檢測

所謂多尺度采用大小不同的特征圖,CNN網(wǎng)絡(luò)一般前面的特征圖比較大,后面會逐漸采用stride=2的卷積或者pool來降低特征圖大小,這正如圖3所示,一個比較大的特征圖和一個比較小的特征圖,它們都用來做檢測。這樣做的好處是比較大的特征圖來用來檢測相對較小的目標(biāo),而小的特征圖負責(zé)檢測大目標(biāo),如圖4所示,8x8的特征圖可以劃分更多的單元,但是其每個單元的先驗框尺度比較小。

圖4 不同尺度的特征圖

(2)采用卷積進行檢測

與Yolo最后采用全連接層不同,SSD直接采用卷積對不同的特征圖來進行提取檢測結(jié)果。對于形狀為的特征圖,只需要采用這樣比較小的卷積核得到檢測值。

(3)設(shè)置先驗框

在Yolo中,每個單元預(yù)測多個邊界框,但是其都是相對這個單元本身(正方塊),但是真實目標(biāo)的形狀是多變的,Yolo需要在訓(xùn)練過程中自適應(yīng)目標(biāo)的形狀。而SSD借鑒了Faster R-CNN中anchor的理念,每個單元設(shè)置尺度或者長寬比不同的先驗框,預(yù)測的邊界框(bounding boxes)是以這些先驗框為基準(zhǔn)的,在一定程度上減少訓(xùn)練難度。一般情況下,每個單元會設(shè)置多個先驗框,其尺度和長寬比存在差異,如圖5所示,可以看到每個單元使用了4個不同的先驗框,圖片中貓和狗分別采用最適合它們形狀的先驗框來進行訓(xùn)練,后面會詳細講解訓(xùn)練過程中的先驗框匹配原則。

圖5 SSD的先驗框

SSD的檢測值也與Yolo不太一樣。對于每個單元的每個先驗框,其都輸出一套獨立的檢測值,對應(yīng)一個邊界框,主要分為兩個部分。第一部分是各個類別的置信度或者評分,值得注意的是SSD將背景也當(dāng)做了一個特殊的類別,如果檢測目標(biāo)共有個類別,SSD其實需要預(yù)測個置信度值,其中第一個置信度指的是不含目標(biāo)或者屬于背景的評分。后面當(dāng)我們說個類別置信度時,請記住里面包含背景那個特殊的類別,即真實的檢測類別只有個。在預(yù)測過程中,置信度最高的那個類別就是邊界框所屬的類別,特別地,當(dāng)?shù)谝粋€置信度值最高時,表示邊界框中并不包含目標(biāo)。第二部分就是邊界框的location,包含4個值,分別表示邊界框的中心坐標(biāo)以及寬高。但是真實預(yù)測值其實只是邊界框相對于先驗框的轉(zhuǎn)換值(paper里面說是offset,但是覺得transformation更合適,參見R-CNN)。先驗框位置用表示,其對應(yīng)邊界框用lbd$ 的轉(zhuǎn)換值:

習(xí)慣上,我們稱上面這個過程為邊界框的編碼(encode),預(yù)測時,你需要反向這個過程,即進行解碼(decode),從預(yù)測值中得到邊界框的真實位置:

然而,在SSD的Caffe源碼實現(xiàn)中還有trick,那就是設(shè)置variance超參數(shù)來調(diào)整檢測值,通過bool參數(shù)variance_encoded_in_target來控制兩種模式,當(dāng)其為True時,表示variance被包含在預(yù)測值中,就是上面那種情況。但是如果是False(大部分采用這種方式,訓(xùn)練更容易?),就需要手動設(shè)置超參數(shù)variance,用來對的4個值進行放縮,此時邊界框需要這樣解碼:

綜上所述,對于一個大小的特征圖,共有個單元,每個單元設(shè)置的先驗框數(shù)目記為,那么每個單元共需要個預(yù)測值,所有的單元共需要個預(yù)測值,由于SSD采用卷積做檢測,所以就需要個卷積核完成這個特征圖的檢測過程。

網(wǎng)絡(luò)結(jié)構(gòu)

SSD采用VGG16作為基礎(chǔ)模型,然后在VGG16的基礎(chǔ)上新增了卷積層來獲得更多的特征圖以用于檢測。SSD的網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。上面是SSD模型,下面是Yolo模型,可以明顯看到SSD利用了多尺度的特征圖做檢測。模型的輸入圖片大小是(還可以是,其與前者網(wǎng)絡(luò)結(jié)構(gòu)沒有差別,只是最后新增一個卷積層,本文不再討論)。

1c337774-88ef-11eb-8b86-12bb97331649.jpg

圖5 SSD網(wǎng)絡(luò)結(jié)構(gòu)

采用VGG16做基礎(chǔ)模型,首先VGG16是在ILSVRC CLS-LOC數(shù)據(jù)集預(yù)訓(xùn)練。然后借鑒了DeepLab-LargeFOV,分別將VGG16的全連接層fc6和fc7轉(zhuǎn)換成卷積層 conv6和卷積層conv7,同時將池化層pool5由原來的stride=2的變成stride=1的(猜想是不想reduce特征圖大小),為了配合這種變化,采用了一種Atrous Algorithm,其實就是conv6采用擴展卷積或帶孔卷積(Dilation Conv),其在不增加參數(shù)與模型復(fù)雜度的條件下指數(shù)級擴大卷積的視野,其使用擴張率(dilation rate)參數(shù),來表示擴張的大小,如下圖6所示,(a)是普通的卷積,其視野就是,(b)是擴張率為2,此時視野變成,(c)擴張率為4時,視野擴大為,但是視野的特征更稀疏了。Conv6采用大小但dilation rate=6的擴展卷積。

圖6 擴展卷積

然后移除dropout層和fc8層,并新增一系列卷積層,在檢測數(shù)據(jù)集上做finetuing。

其中VGG16中的Conv4_3層將作為用于檢測的第一個特征圖。conv4_3層特征圖大小是,但是該層比較靠前,其norm較大,所以在其后面增加了一個L2 Normalization層(參見ParseNet),以保證和后面的檢測層差異不是很大,這個和Batch Normalization層不太一樣,其僅僅是對每個像素點在channle維度做歸一化,而Batch Normalization層是在[batch_size, width, height]三個維度上做歸一化。歸一化后一般設(shè)置一個可訓(xùn)練的放縮變量gamma,使用TF可以這樣簡單實現(xiàn):

# l2norm (not bacth norm, spatial normalization)def l2norm(x, scale, trainable=True, scope="L2Normalization"): n_channels = x.get_shape().as_list()[-1] l2_norm = tf.nn.l2_normalize(x, [3], epsilon=1e-12) with tf.variable_scope(scope): gamma = tf.get_variable("gamma", shape=[n_channels, ], dtype=tf.float32, initializer=tf.constant_initializer(scale), trainable=trainable) return l2_norm * gamma

從后面新增的卷積層中提取Conv7,Conv8_2,Conv9_2,Conv10_2,Conv11_2作為檢測所用的特征圖,加上Conv4_3層,共提取了6個特征圖,其大小分別是,但是不同特征圖設(shè)置的先驗框數(shù)目不同(同一個特征圖上每個單元設(shè)置的先驗框是相同的,這里的數(shù)目指的是一個單元的先驗框數(shù)目)。先驗框的設(shè)置,包括尺度(或者說大?。┖烷L寬比兩個方面。對于先驗框的尺度,其遵守一個線性遞增規(guī)則:隨著特征圖大小降低,先驗框尺度線性增加:

其中指的特征圖個數(shù),但卻是,因為第一層(Conv4_3層)是單獨設(shè)置的,表示先驗框大小相對于圖片的比例,而和表示比例的最小值與最大值,paper里面取0.2和0.9。對于第一個特征圖,其先驗框的尺度比例一般設(shè)置為,那么尺度為。對于后面的特征圖,先驗框尺度按照上面公式線性增加,但是先將尺度比例先擴大100倍,此時增長步長為,這樣各個特征圖的為,將這些比例除以100,然后再乘以圖片大小,可以得到各個特征圖的尺度為,這種計算方式是參考SSD的Caffe源碼。綜上,可以得到各個特征圖的先驗框尺度。對于長寬比,一般選取,對于特定的長寬比,按如下公式計算先驗框的寬度與高度(后面的均指的是先驗框?qū)嶋H尺度,而不是尺度比例):

默認(rèn)情況下,每個特征圖會有一個且尺度為的先驗框,除此之外,還會設(shè)置一個尺度為且的先驗框,這樣每個特征圖都設(shè)置了兩個長寬比為1但大小不同的正方形先驗框。注意最后一個特征圖需要參考一個虛擬來計算。因此,每個特征圖一共有個先驗框,但是在實現(xiàn)時,Conv4_3,Conv10_2和Conv11_2層僅使用4個先驗框,它們不使用長寬比為的先驗框。每個單元的先驗框的中心點分布在各個單元的中心,即,其中為特征圖的大小。

得到了特征圖之后,需要對特征圖進行卷積得到檢測結(jié)果,圖7給出了一個大小的特征圖的檢測過程。其中Priorbox是得到先驗框,前面已經(jīng)介紹了生成規(guī)則。檢測值包含兩個部分:類別置信度和邊界框位置,各采用一次卷積來進行完成。令為該特征圖所采用的先驗框數(shù)目,那么類別置信度需要的卷積核數(shù)量為,而邊界框位置需要的卷積核數(shù)量為。由于每個先驗框都會預(yù)測一個邊界框,所以SSD300一共可以預(yù)測個邊界框,這是一個相當(dāng)龐大的數(shù)字,所以說SSD本質(zhì)上是密集采樣。

圖7 基于卷積得到檢測結(jié)果訓(xùn)練過程

(1)先驗框匹配
在訓(xùn)練過程中,首先要確定訓(xùn)練圖片中的ground truth(真實目標(biāo))與哪個先驗框來進行匹配,與之匹配的先驗框所對應(yīng)的邊界框?qū)⒇撠?zé)預(yù)測它。在Yolo中,ground truth的中心落在哪個單元格,該單元格中與其IOU最大的邊界框負責(zé)預(yù)測它。但是在SSD中卻完全不一樣,SSD的先驗框與ground truth的匹配原則主要有兩點。首先,對于圖片中每個ground truth,找到與其IOU最大的先驗框,該先驗框與其匹配,這樣,可以保證每個ground truth一定與某個先驗框匹配。通常稱與ground truth匹配的先驗框為正樣本(其實應(yīng)該是先驗框?qū)?yīng)的預(yù)測box,不過由于是一一對應(yīng)的就這樣稱呼了),反之,若一個先驗框沒有與任何ground truth進行匹配,那么該先驗框只能與背景匹配,就是負樣本。一個圖片中g(shù)round truth是非常少的, 而先驗框卻很多,如果僅按第一個原則匹配,很多先驗框會是負樣本,正負樣本極其不平衡,所以需要第二個原則。第二個原則是:對于剩余的未匹配先驗框,若某個ground truth的大于某個閾值(一般是0.5),那么該先驗框也與這個ground truth進行匹配。這意味著某個ground truth可能與多個先驗框匹配,這是可以的。但是反過來卻不可以,因為一個先驗框只能匹配一個ground truth,如果多個ground truth與某個先驗框大于閾值,那么先驗框只與IOU最大的那個ground truth進行匹配。第二個原則一定在第一個原則之后進行,仔細考慮一下這種情況,如果某個ground truth所對應(yīng)最大小于閾值,并且所匹配的先驗框卻與另外一個ground truth的大于閾值,那么該先驗框應(yīng)該匹配誰,答案應(yīng)該是前者,首先要確保某個ground truth一定有一個先驗框與之匹配。但是,這種情況我覺得基本上是不存在的。由于先驗框很多,某個ground truth的最大肯定大于閾值,所以可能只實施第二個原則既可以了,這里的TensorFlow版本就是只實施了第二個原則,但是這里的Pytorch兩個原則都實施了。圖8為一個匹配示意圖,其中綠色的GT是ground truth,紅色為先驗框,F(xiàn)P表示負樣本,TP表示正樣本。

圖8 先驗框匹配示意圖

盡管一個ground truth可以與多個先驗框匹配,但是ground truth相對先驗框還是太少了,所以負樣本相對正樣本會很多。為了保證正負樣本盡量平衡,SSD采用了hard negative mining,就是對負樣本進行抽樣,抽樣時按照置信度誤差(預(yù)測背景的置信度越小,誤差越大)進行降序排列,選取誤差的較大的top-k作為訓(xùn)練的負樣本,以保證正負樣本比例接近1:3。

(2)損失函數(shù)
訓(xùn)練樣本確定了,然后就是損失函數(shù)了。損失函數(shù)定義為位置誤差(locatization loss, loc)與置信度誤差(confidence loss, conf)的加權(quán)和:

其中是先驗框的正樣本數(shù)量。這里為一個指示參數(shù),當(dāng)時表示第個先驗框與第個ground truth匹配,并且ground truth的類別為。為類別置信度預(yù)測值。為先驗框的所對應(yīng)邊界框的位置預(yù)測值,而是ground truth的位置參數(shù)。對于位置誤差,其采用Smooth L1 loss,定義如下:

1d7a41e4-88ef-11eb-8b86-12bb97331649.jpg

1da9cad6-88ef-11eb-8b86-12bb97331649.jpg

由于的存在,所以位置誤差僅針對正樣本進行計算。值得注意的是,要先對ground truth的進行編碼得到,因為預(yù)測值也是編碼值,若設(shè)置variance_encoded_in_target=True,編碼時要加上variance:

對于置信度誤差,其采用softmax loss:

1ddec74a-88ef-11eb-8b86-12bb97331649.jpg

權(quán)重系數(shù)通過交叉驗證設(shè)置為1。

(3)數(shù)據(jù)擴增

采用數(shù)據(jù)擴增(Data Augmentation)可以提升SSD的性能,主要采用的技術(shù)有水平翻轉(zhuǎn)(horizontal flip),隨機裁剪加顏色扭曲(random crop & color distortion),隨機采集塊域(Randomly sample a patch)(獲取小目標(biāo)訓(xùn)練樣本),如下圖所示:

圖9 數(shù)據(jù)擴增方案

其它的訓(xùn)練細節(jié)如學(xué)習(xí)速率的選擇詳見論文,這里不再贅述。

預(yù)測過程

預(yù)測過程比較簡單,對于每個預(yù)測框,首先根據(jù)類別置信度確定其類別(置信度最大者)與置信度值,并過濾掉屬于背景的預(yù)測框。然后根據(jù)置信度閾值(如0.5)過濾掉閾值較低的預(yù)測框。對于留下的預(yù)測框進行解碼,根據(jù)先驗框得到其真實的位置參數(shù)(解碼后一般還需要做clip,防止預(yù)測框位置超出圖片)。解碼之后,一般需要根據(jù)置信度進行降序排列,然后僅保留top-k(如400)個預(yù)測框。最后就是進行NMS算法,過濾掉那些重疊度較大的預(yù)測框。最后剩余的預(yù)測框就是檢測結(jié)果了。

性能評估

首先整體看一下SSD在VOC2007,VOC2012及COCO數(shù)據(jù)集上的性能,如表1所示。相比之下,SSD512的性能會更好一些。加*的表示使用了image expansion data augmentation(通過zoom out來創(chuàng)造小的訓(xùn)練樣本)技巧來提升SSD在小目標(biāo)上的檢測效果,所以性能會有所提升。

1e911116-88ef-11eb-8b86-12bb97331649.jpg

表1 SSD在不同數(shù)據(jù)集上的性能

SSD與其它檢測算法的對比結(jié)果(在VOC2007數(shù)據(jù)集)如表2所示,基本可以看到,SSD與Faster R-CNN有同樣的準(zhǔn)確度,并且與Yolo具有同樣較快地檢測速度。

1ec5d324-88ef-11eb-8b86-12bb97331649.jpg

表2 SSD與其它檢測算法的對比結(jié)果(在VOC2007數(shù)據(jù)集)

文章還對SSD的各個trick做了更為細致的分析,表3為不同的trick組合對SSD的性能影響,從表中可以得出如下結(jié)論:

數(shù)據(jù)擴增技術(shù)很重要,對于mAP的提升很大;

使用不同長寬比的先驗框可以得到更好的結(jié)果;

1f202fae-88ef-11eb-8b86-12bb97331649.jpg

表3 不同的trick組合對SSD的性能影響

同樣的,采用多尺度的特征圖用于檢測也是至關(guān)重要的,這可以從表4中看出:

1f42005c-88ef-11eb-8b86-12bb97331649.jpg

表4 多尺度特征圖對SSD的影響TensorFlow上的實現(xiàn)

SSD在很多框架上都有了開源的實現(xiàn),這里基于balancap的TensorFlow版本來實現(xiàn)SSD的Inference過程。這里實現(xiàn)的是SSD300,與paper里面不同的是,這里采用。首先定義SSD的參數(shù):

self.ssd_params = SSDParams(img_shape=(300, 300), # 輸入圖片大小 num_classes=21, # 類別數(shù)+背景 no_annotation_label=21, feat_layers=["block4", "block7", "block8", "block9", "block10", "block11"], # 要進行檢測的特征圖name feat_shapes=[(38, 38), (19, 19), (10, 10), (5, 5), (3, 3), (1, 1)], # 特征圖大小 anchor_size_bounds=[0.15, 0.90], # 特征圖尺度范圍 anchor_sizes=[(21., 45.), (45., 99.), (99., 153.), (153., 207.), (207., 261.), (261., 315.)], # 不同特征圖的先驗框尺度(第一個值是s_k,第2個值是s_k+1) anchor_ratios=[[2, .5], [2, .5, 3, 1. / 3], [2, .5, 3, 1. / 3], [2, .5, 3, 1. / 3], [2, .5], [2, .5]], # 特征圖先驗框所采用的長寬比(每個特征圖都有2個正方形先驗框) anchor_steps=[8, 16, 32, 64, 100, 300], # 特征圖的單元大小 anchor_offset=0.5, # 偏移值,確定先驗框中心 normalizations=[20, -1, -1, -1, -1, -1], # l2 norm prior_scaling=[0.1, 0.1, 0.2, 0.2] # variance )

然后構(gòu)建整個網(wǎng)絡(luò),注意對于stride=2的conv不要使用TF自帶的padding="same",而是手動pad,這是為了與Caffe一致:

def _built_net(self): """Construct the SSD net""" self.end_points = {} # record the detection layers output self._images = tf.placeholder(tf.float32, shape=[None, self.ssd_params.img_shape[0], self.ssd_params.img_shape[1], 3]) with tf.variable_scope("ssd_300_vgg"): # original vgg layers # block 1 net = conv2d(self._images, 64, 3, scope="conv1_1") net = conv2d(net, 64, 3, scope="conv1_2") self.end_points["block1"] = net net = max_pool2d(net, 2, scope="pool1") # block 2 net = conv2d(net, 128, 3, scope="conv2_1") net = conv2d(net, 128, 3, scope="conv2_2") self.end_points["block2"] = net net = max_pool2d(net, 2, scope="pool2") # block 3 net = conv2d(net, 256, 3, scope="conv3_1") net = conv2d(net, 256, 3, scope="conv3_2") net = conv2d(net, 256, 3, scope="conv3_3") self.end_points["block3"] = net net = max_pool2d(net, 2, scope="pool3") # block 4 net = conv2d(net, 512, 3, scope="conv4_1") net = conv2d(net, 512, 3, scope="conv4_2") net = conv2d(net, 512, 3, scope="conv4_3") self.end_points["block4"] = net net = max_pool2d(net, 2, scope="pool4") # block 5 net = conv2d(net, 512, 3, scope="conv5_1") net = conv2d(net, 512, 3, scope="conv5_2") net = conv2d(net, 512, 3, scope="conv5_3") self.end_points["block5"] = net print(net) net = max_pool2d(net, 3, stride=1, scope="pool5") print(net) # additional SSD layers # block 6: use dilate conv net = conv2d(net, 1024, 3, dilation_rate=6, scope="conv6") self.end_points["block6"] = net #net = dropout(net, is_training=self.is_training) # block 7 net = conv2d(net, 1024, 1, scope="conv7") self.end_points["block7"] = net # block 8 net = conv2d(net, 256, 1, scope="conv8_1x1") net = conv2d(pad2d(net, 1), 512, 3, stride=2, scope="conv8_3x3", padding="valid") self.end_points["block8"] = net # block 9 net = conv2d(net, 128, 1, scope="conv9_1x1") net = conv2d(pad2d(net, 1), 256, 3, stride=2, scope="conv9_3x3", padding="valid") self.end_points["block9"] = net # block 10 net = conv2d(net, 128, 1, scope="conv10_1x1") net = conv2d(net, 256, 3, scope="conv10_3x3", padding="valid") self.end_points["block10"] = net # block 11 net = conv2d(net, 128, 1, scope="conv11_1x1") net = conv2d(net, 256, 3, scope="conv11_3x3", padding="valid") self.end_points["block11"] = net # class and location predictions predictions = [] logits = [] locations = [] for i, layer in enumerate(self.ssd_params.feat_layers): cls, loc = ssd_multibox_layer(self.end_points[layer], self.ssd_params.num_classes, self.ssd_params.anchor_sizes[i], self.ssd_params.anchor_ratios[i], self.ssd_params.normalizations[i], scope=layer+"_box") predictions.append(tf.nn.softmax(cls)) logits.append(cls) locations.append(loc) return predictions, logits, locations

對于特征圖的檢測,這里單獨定義了一個組合層ssd_multibox_layer,其主要是對特征圖進行兩次卷積,分別得到類別置信度與邊界框位置:

# multibox layer: get class and location predicitions from detection layer def ssd_multibox_layer(x, num_classes, sizes, ratios, normalization=-1, scope="multibox"): pre_shape = x.get_shape().as_list()[1:-1] pre_shape = [-1] + pre_shape with tf.variable_scope(scope): # l2 norm if normalization > 0: x = l2norm(x, normalization) print(x) # numbers of anchors n_anchors = len(sizes) + len(ratios) # location predictions loc_pred = conv2d(x, n_anchors*4, 3, activation=None, scope="conv_loc") loc_pred = tf.reshape(loc_pred, pre_shape + [n_anchors, 4]) # class prediction cls_pred = conv2d(x, n_anchors*num_classes, 3, activation=None, scope="conv_cls") cls_pred = tf.reshape(cls_pred, pre_shape + [n_anchors, num_classes]) return cls_pred, loc_pred

對于先驗框,可以基于numpy生成,定義在ssd_anchors.py文件中,結(jié)合先驗框與檢測值,對邊界框進行過濾與解碼:

classes, scores, bboxes = self._bboxes_select(predictions, locations)

這里將得到過濾得到的邊界框,其中classes, scores, bboxes分別表示類別,置信度值以及邊界框位置。

基于訓(xùn)練好的權(quán)重文件在https://pan.baidu.com/s/1snhuTsT下載,這里對SSD進行測試:

ssd_net = SSD()classes, scores, bboxes = ssd_net.detections()images = ssd_net.images() sess = tf.Session()# Restore SSD model.ckpt_filename = './ssd_checkpoints/ssd_vgg_300_weights.ckpt'sess.run(tf.global_variables_initializer())saver = tf.train.Saver()saver.restore(sess, ckpt_filename) img = cv2.imread('./demo/dog.jpg')img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)img_prepocessed = preprocess_image(img) # 預(yù)處理圖片,主要是歸一化和resizerclasses, rscores, rbboxes = sess.run([classes, scores, bboxes], feed_dict={images: img_prepocessed})rclasses, rscores, rbboxes = process_bboxes(rclasses, rscores, rbboxes) # 處理預(yù)測框,包括clip,sort,nms plt_bboxes(img, rclasses, rscores, rbboxes) # 繪制檢測結(jié)果

詳細的代碼放在GitHub,https://github.com/xiaohu2015/DeepLearning_tutorials/tree/master/ObjectDetections/SSD上了,然后看一下一個自然圖片的檢測效果:

如果你想實現(xiàn)SSD的train過程,你可以參考附錄里面的Caffe,TensorFlow以及Pytorch實現(xiàn)。

小結(jié)

SSD在Yolo的基礎(chǔ)上主要改進了三點:多尺度特征圖,利用卷積進行檢測,設(shè)置先驗框。這使得SSD在準(zhǔn)確度上比Yolo更好,而且對于小目標(biāo)檢測效果也相對好一點。由于很多實現(xiàn)細節(jié)都包含在源碼里面,文中有描述不準(zhǔn)或者錯誤的地方在所難免,歡迎交流指正。

責(zé)任編輯:lq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4552

    瀏覽量

    92020
  • SSD
    SSD
    +關(guān)注

    關(guān)注

    20

    文章

    2791

    瀏覽量

    116649
  • cnn
    cnn
    +關(guān)注

    關(guān)注

    3

    文章

    349

    瀏覽量

    21962

原文標(biāo)題:目標(biāo)檢測|SSD原理與實現(xiàn)

文章出處:【微信號:vision263com,微信公眾號:新機器視覺】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    電感技術(shù)的講解

    詳細講解電感的原理及計算
    的頭像 發(fā)表于 09-06 02:07 ?1429次閱讀
    電感技術(shù)的<b class='flag-5'>講解</b>

    第12章-ADC采集電壓和顯示 基于STM32的ADC—電壓采集(詳細講解+HAL庫)

    第12章-ADC采集電壓和顯示 基于STM32的ADC—電壓采集(詳細講解+HAL庫)
    的頭像 發(fā)表于 08-21 16:31 ?1058次閱讀
    第12章-ADC采集電壓和顯示 基于STM32的ADC—電壓采集(<b class='flag-5'>詳細</b><b class='flag-5'>講解</b>+HAL庫)

    BLDC電機控制算法詳解

    算法。本文將詳細介紹BLDC電機的控制算法,包括電速算法、電流環(huán)控制算法、磁場導(dǎo)向控制算法等,并
    的頭像 發(fā)表于 06-14 10:49 ?526次閱讀

    foxbot基本操作與應(yīng)用講解

    電子發(fā)燒友網(wǎng)站提供《foxbot基本操作與應(yīng)用講解.pptx》資料免費下載
    發(fā)表于 05-11 09:34 ?1次下載

    淺析FreeRTOS任務(wù)調(diào)度器的三種調(diào)度算法和應(yīng)用

    FreeRTOS在MCU領(lǐng)域應(yīng)用非常廣泛,今天就給大家講解一下FreeRTOS調(diào)度器中的三種調(diào)度算法,以及在瑞薩RZ/T2L MPU中的應(yīng)用。
    的頭像 發(fā)表于 05-10 14:02 ?5089次閱讀
    淺析FreeRTOS任務(wù)調(diào)度器的三種調(diào)度<b class='flag-5'>算法</b>和應(yīng)用

    基于FPGA的常見的圖像算法模塊總結(jié)

    意在給大家補充一下基于FPGA的圖像算法基礎(chǔ),于是講解了一下常見的圖像算法模塊,經(jīng)過個人的總結(jié),將知識點分布如下所示。
    的頭像 發(fā)表于 04-28 11:45 ?416次閱讀
    基于FPGA的常見的圖像<b class='flag-5'>算法</b>模塊總結(jié)

    詳細講解Altium Designer 23的安裝教程

    在PCB設(shè)計中,軟件的安裝是我們邁出的第一步,接下來將詳細講解Altium Designer 23安裝教程。
    的頭像 發(fā)表于 01-09 10:02 ?6419次閱讀
    <b class='flag-5'>詳細</b><b class='flag-5'>講解</b>Altium Designer 23的安裝教程

    電氣的線制你懂嗎?詳細講解二三四線制的區(qū)別和應(yīng)用!

    電氣的線制你懂嗎?詳細講解二三四線制的區(qū)別和應(yīng)用! 二線制、三線制和四線制是電氣線制的幾種常見形式。它們在電力傳輸和配電系統(tǒng)中有不同的應(yīng)用和功能。下面我將詳細解釋這三種線制的區(qū)別和應(yīng)用。 首先是二線
    的頭像 發(fā)表于 12-26 16:01 ?1150次閱讀

    LOAM源代碼中坐標(biāo)變換部分的詳細講解

    本系列文章將對LOAM源代碼進行講解,在講解過程中,涉及到論文中提到的部分,會結(jié)合論文以及我自己的理解進行解讀,尤其是對于其中坐標(biāo)變換的部分,將會進行詳細講解
    的頭像 發(fā)表于 11-01 10:49 ?1535次閱讀
    LOAM源代碼中坐標(biāo)變換部分的<b class='flag-5'>詳細</b><b class='flag-5'>講解</b>

    SVPWM的原理及法則推導(dǎo)和控制算法介紹

    包含SVPWM的算法介紹,基本原理,以及詳細的公式推導(dǎo),詳細的圖表示意,是初學(xué)FOC,準(zhǔn)備自己手寫FOC庫或者理解FOC算法的工程師的有利手冊,手冊中也簡單介紹了SVPWM與SPWM的
    發(fā)表于 10-07 09:13

    C語言經(jīng)典算法大全

    C語言經(jīng)典算法,詳細解析算法過程及算法思想,給讀者具有啟發(fā)意義,教程包含C語言大部分常用算法,僅供學(xué)習(xí),禁止商業(yè)傳播
    發(fā)表于 10-07 08:16

    如何使用MATLAB和Simulink進行雷達系統(tǒng)設(shè)計和仿真

    講解了雷達系統(tǒng)中應(yīng)用的各種信號處理算法,包括目標(biāo)檢測、跟蹤和分類等。詳細介紹了如何設(shè)計和分析雷達波形,從而提高雷達系統(tǒng)的性能。
    發(fā)表于 09-26 10:45 ?1525次閱讀
    如何使用MATLAB和Simulink進行雷達系統(tǒng)設(shè)計和仿真

    uart通信的詳細講解

    UART(UniversalAsynchronousReceiver/Transmitter,通用異步收發(fā)器)是一種常用的串行通信協(xié)議,廣泛應(yīng)用于單片機或各種嵌入式設(shè)備之間的通信。本文將詳細介紹
    的頭像 發(fā)表于 09-22 08:22 ?2538次閱讀
    uart通信的<b class='flag-5'>詳細</b><b class='flag-5'>講解</b>

    小米2D激光雷達拆解圖講解

    本文檔的主要內(nèi)容詳細介紹的是小米的2D激光雷達拆解圖和講解。
    發(fā)表于 09-22 08:07

    RFID技術(shù)和防沖撞算法分析

    論文詳細介紹了 RFID 技術(shù), 并針對 RFID 技術(shù)中不可避免的碰撞問題進行分析。提出一種動態(tài)調(diào)整二進制搜索樹防沖撞算法, 可以有效解決 RFID 標(biāo)簽沖突問題。在時間復(fù)雜度和空間復(fù)雜度等方面比較驗證其優(yōu)越性。該算法對于 R
    發(fā)表于 09-22 06:04