基于毫米波雷達(dá)和機(jī)器視覺的夜間前方車輛檢測(cè)

為研究夜間追尾事故中本車智能防撞預(yù)警方法，本文提出了一種基于毫米波雷達(dá)和機(jī)器視覺的前方車輛檢測(cè)方法。利用多傳感器融合數(shù)據(jù)，檢測(cè)前方車輛的距離、速度等。建立傳感器之間轉(zhuǎn)換關(guān)系，轉(zhuǎn)換雷達(dá)目標(biāo)的世界坐標(biāo)到圖像坐標(biāo)。在圖像上形成感興趣區(qū)域，利用圖像處理方法減少干擾點(diǎn)，運(yùn)用 Dempster-Shafer（D-S）證據(jù)理論，融合特征信息，得到總的信任度值檢驗(yàn)感興趣區(qū)域內(nèi)的車輛。實(shí)驗(yàn)采集多段夜間道路行車視頻數(shù)據(jù)，統(tǒng)計(jì)實(shí)現(xiàn)尾燈識(shí)別的幀數(shù)，與主觀判斷進(jìn)行比較。

結(jié)果表明：該方法能夠?qū)崿F(xiàn)對(duì)夜間前方車輛的檢測(cè)和定位。道路交通事故中由追尾相撞導(dǎo)致的事故占很大比例，而夜間交通事故尤為嚴(yán)重，約占交通事故總數(shù)的 40%。夜間車輛檢測(cè)技術(shù)已成為智能車輛安全輔助駕駛系統(tǒng)的重要組成部分，用于準(zhǔn)確地識(shí)別夜間前方車輛，為駕駛員及時(shí)提供前方車輛信息及路況，降低夜間交通事故的發(fā)生 。夜間由于光線強(qiáng)度不夠，大部分白天的車輛特征信息已經(jīng)不可用，因此用于白天的車輛檢測(cè)算法基本失效。車輛尾燈是夜間車輛的明顯特征，目前，對(duì)于夜間前方車輛檢測(cè)識(shí)別的研究主要是利用單目視覺傳感器，獲取車輛前方的視覺感知信息，基于圖像信息提取尾燈特征進(jìn)行前方車輛識(shí)別。

機(jī)器視覺是一種用于車輛檢測(cè)的有效傳感器，但其有一定的局限性，因此有文獻(xiàn)提出綜合考慮激光雷達(dá)和機(jī)器視覺的信息，進(jìn)行前方目標(biāo)車輛檢測(cè)。雖然激光雷達(dá)和機(jī)器視覺在一定程度可以互補(bǔ)，但激光雷達(dá)對(duì)天氣、燈光、障礙物表面光滑度等干擾非常敏感，不適合復(fù)雜道路環(huán)境。由于毫米波雷達(dá)不易受外界干擾而且測(cè)量的距離精度高，可以準(zhǔn)確獲得前方車輛的速度、角度等深度信息。因此，本文提出利用毫米波雷達(dá)和機(jī)器視覺進(jìn)行多傳感器數(shù)據(jù)融合，通過先驗(yàn)知識(shí)篩選毫米波雷達(dá)探測(cè)到的障礙物數(shù)據(jù)，融合雷達(dá)數(shù)據(jù)和圖像信息初步確立動(dòng)態(tài)感興趣區(qū)域（Region of Interest，ROI），在縮小的范圍內(nèi)基于視覺傳感器提取表征車輛的特征，運(yùn)用 D-S 證據(jù)理論（Dempster-Shafer Evidential Theory）融合信息，減少了計(jì)算量和主觀閾值對(duì)檢測(cè)精確度的影響，提高了執(zhí)行速度和車輛定位的準(zhǔn)確性。

01

夜間車輛檢測(cè)算法實(shí)現(xiàn)

整個(gè)過程分為假設(shè)產(chǎn)生（Hypothesis Generation，HG）和假設(shè)檢驗(yàn)（Hypothesis Verifcation，HV）兩部分：假設(shè)產(chǎn)生過程利用雷達(dá)獲取候選目標(biāo)的的距離、角度、速度等信息，進(jìn)而得到候選目標(biāo)的世界坐標(biāo)，利用攝像機(jī)標(biāo)定原理得到世界坐標(biāo)與圖像像素坐標(biāo)的轉(zhuǎn)換關(guān)系，初步確定候選目標(biāo)在圖像上的區(qū)域，即感興趣區(qū)域 ROI；假設(shè)驗(yàn)證過程是通過改進(jìn)的自適應(yīng)閾值確定方法（大津法，OTSU 法）進(jìn)行圖像分割處理，進(jìn)而利用圖像處理方法、先驗(yàn)知識(shí)和 D-S 證據(jù)理論對(duì)感興趣區(qū)域檢測(cè)是否存在車輛特征。

圖 1 夜間前方車輛檢測(cè)方法流程圖

算法流程圖如圖 1 所示。

02

假設(shè)產(chǎn)生（HG）

2.1 雷達(dá)數(shù)據(jù)處理及初選目標(biāo)的確定

毫米波雷達(dá)接收到的是十六進(jìn)制數(shù)據(jù)，根據(jù)雷達(dá)協(xié)議解算數(shù)據(jù)，并提取可以用于車輛檢測(cè)的有效信息包括：前方車輛相對(duì)于本車的角度、距離、速度、反射強(qiáng)度。在實(shí)際測(cè)量中，毫米波雷達(dá)獲取的信號(hào)有一部分是空目標(biāo)信號(hào)、無效目標(biāo)信號(hào)、靜止目標(biāo)信號(hào)，首先要去除這 3 種目標(biāo)信號(hào)的干擾。根據(jù)國(guó)家規(guī)定車道寬度設(shè)置橫向?qū)挾乳撝担M(jìn)行目標(biāo)與自車的同車道判斷，保留行駛方向距離閾值和相對(duì)速度閾值內(nèi)的目標(biāo)，對(duì)篩選出的前方目標(biāo)由近及遠(yuǎn)的原則重新排序，使用同車道近距離原則初選有效目標(biāo)，如表 1 所示。

表 1 初選有效目標(biāo)信號(hào)

表 1 中：ID 表示雷達(dá)檢測(cè)得到的目標(biāo)信號(hào)的標(biāo)準(zhǔn)幀號(hào)；α、R、Δv 分別為本車與目標(biāo)信號(hào)的相對(duì)角度、相對(duì)距離、相對(duì)速度（?v = v1 - v0，v1 為目標(biāo)速度，v0 為本車速度）；p 從目標(biāo)返回信號(hào)的強(qiáng)度，即反射率。長(zhǎng)距離的毫米波雷達(dá)掃描范圍是 1~175 m，中距離是 1~60 m。距離小于 1 m 時(shí)雷達(dá)就不能識(shí)別物體。以避免車輛行駛過程中與前方車輛發(fā)生追尾碰撞為出發(fā)點(diǎn)，在有效目標(biāo)選擇過程中最關(guān)注的是與本車位于同一車道的前方最近車輛。當(dāng) Δv＜0，有出現(xiàn)追尾事故的可能。因此，把雷達(dá)掃描近距離 1~60 m 內(nèi)、離本車最近且 Δv＜0 的車輛作為初選目標(biāo)。

2.2 雷達(dá)數(shù)據(jù)和機(jī)器視覺的融合

雷達(dá)和機(jī)器視覺是不同坐標(biāo)系的傳感器，因此要實(shí)現(xiàn)雷達(dá)和機(jī)器視覺的空間融合，必須建立兩傳感器所在坐標(biāo)系的轉(zhuǎn)換模型，即雷達(dá)坐標(biāo)與圖像像素坐標(biāo)之間的轉(zhuǎn)換。雷達(dá)坐標(biāo)系與圖像像素坐標(biāo)系之間有著密切的聯(lián)系，按照右手系原則建立坐標(biāo)系，由式 （1）-（2） 確定坐標(biāo)系之間的空間位置關(guān)系。將世界坐標(biāo)系中的點(diǎn) （ XW， YW， ZW ） 變換到圖像像素坐標(biāo) （ u， v ），轉(zhuǎn)換公式為：

式中：（ XW， YW， ZW， 1 ）^T 是點(diǎn)的世界坐標(biāo)，與其對(duì)應(yīng)的攝像機(jī)齊次坐標(biāo)是 （ XC， YC， ZC， 1 ）^T，dx 與 dy 分別表示每個(gè)像素在橫、縱軸上的物理單位下的大小，f 是攝像機(jī)的焦距，s‘ 表示因攝像機(jī)成像平面坐標(biāo)軸相互不正交引出的傾斜因子（Skew Factor），R 代表旋轉(zhuǎn)矩陣（為一個(gè) 3×3 的正交單位矩陣），t 代表平移向量，I 是元素全為 1 的對(duì)角矩陣，O=（0， 0， 0）^T。毫米波雷達(dá)獲取的前方障礙物信息是在極坐標(biāo)下的二維信息，將障礙物 P 的極坐標(biāo)下的二維信息轉(zhuǎn)換到直角坐標(biāo)系中，雷達(dá)坐標(biāo)系的 X0O0Z0 平面與世界坐標(biāo)系的 XOZ 平面平行，兩平面之間的距離為 Y0，通過雷達(dá)可以得到前方車輛中心點(diǎn)投影到雷達(dá)掃射平面內(nèi)的點(diǎn) P 相對(duì)雷達(dá)的距離 R 和角度 α，確定點(diǎn) P 在世界坐標(biāo)系下的坐標(biāo)，轉(zhuǎn)換關(guān)系如下：

由雷達(dá)獲得前方車輛形心點(diǎn)的輸入，綜合以上建立雷達(dá)坐標(biāo)系和圖像像素坐標(biāo)系之間的相對(duì)關(guān)系，即可獲得前方車輛在像素平面的投影，基于車輛的常用外形（寬高比）投影在像素平面上，建立可以根據(jù)距離變化的動(dòng)態(tài)感興趣區(qū)域，縮小在圖像上的搜索時(shí)間，減少計(jì)算量。通過統(tǒng)計(jì)發(fā)現(xiàn)一般車輛的寬高比在 0.7~2.0 范圍內(nèi)，常見轎車、運(yùn)動(dòng)型多功能車（Sport Utility Vehicle，SUV）、面包車、商用車輛等車型的寬高比在 0.7~1.3 范圍內(nèi)，為了避免后續(xù)尾燈檢測(cè)時(shí)會(huì)遺漏尾燈目標(biāo)，本文選取常見幾種車型的最大寬高比 W/H=1.3。動(dòng)態(tài)感興趣區(qū)域的確定如下：

式中：（ x_lt， y_lt ），（ x_rb， y_rb ）分別為動(dòng)態(tài)感興趣矩形區(qū)域的左上角點(diǎn)和右下角點(diǎn)的像素坐標(biāo)，（ x， y ）為車輛形心點(diǎn)的像素坐標(biāo)。

圖 2 雷達(dá)掃描圖

圖 3 雷達(dá)目標(biāo)在圖像上的的 ROI 雷達(dá)掃描圖如圖 2 所示。雷達(dá)坐標(biāo)系中的目標(biāo)經(jīng)坐標(biāo)轉(zhuǎn)換關(guān)系在圖像上形成的感興趣區(qū)域如圖 3 中的 （a） 列所示。動(dòng)態(tài)感興趣區(qū)域的大小會(huì)隨目標(biāo)的距離發(fā)生變化，以更適合的尺寸截取感興趣區(qū)域圖像進(jìn)行下一步檢測(cè)驗(yàn)證，縮小了檢測(cè)范圍，從而減少計(jì)算量提高檢測(cè)實(shí)時(shí)性。獲取的感興趣區(qū)域圖像如圖 3b 列所示。

03

假設(shè)驗(yàn)證（HV）

3.1 圖像分割

前方車輛尾燈對(duì)的灰度級(jí)與路面及背景的灰度級(jí)有明顯區(qū)別，采用閾值分割的方法可以快速準(zhǔn)確地將尾燈對(duì)分割出來。本文采用改進(jìn)的 OTSU 算法分割圖像，凸顯出表征車輛特征的尾燈部分。改進(jìn)的 OTSU 算法是以傳統(tǒng) OTSU 為基礎(chǔ)，從最小灰度值到最大灰度值遍歷，當(dāng)灰度 T 使得方差 σ^2 = w_0*w_1*（μ_0-μ_1）^2 最大時(shí)，再次利用傳統(tǒng) OTSU 對(duì)圖像中大于 T 的部分從灰度 T 到最大灰度值遍歷，得到閾值 T0 使大于灰度值 T 的部分的方差最大，提取閾值 T0，用 T0 對(duì)感興趣區(qū)域圖像進(jìn)行二值化分割，目標(biāo)灰度為 1，背景灰度為 0。

圖 4 分割后圖像 分割后的圖像如圖 4 所示。 3.2?基于圖像形態(tài)學(xué)及先驗(yàn)知識(shí)的圖像處理由于噪聲的影響，圖像在閾值化后所得到的邊界往往是很不平滑的，物體區(qū)域具有一些噪聲孔，背景區(qū)域上散布著一些小的噪聲物體，對(duì)分割后的圖像進(jìn)行圖像形態(tài)學(xué)開閉運(yùn)算處理，用來消除小物體、在纖細(xì)點(diǎn)處分離物體、平滑較大物體的邊界，同時(shí)并不明顯改變其面積。腐蝕操作會(huì)去掉物體的邊緣點(diǎn)，細(xì)小物體所有的點(diǎn)都會(huì)被認(rèn)為是邊緣點(diǎn)，因此會(huì)整個(gè)被刪去。再做膨脹時(shí)，留下來的大物體會(huì)變回原來的大小，而被刪除的小物體則永遠(yuǎn)消失了。膨脹操作會(huì)使物體的邊界向外擴(kuò)張，如果物體內(nèi)部存在小空洞的話，經(jīng)過膨脹操作這些洞將被補(bǔ)上，因而不再是邊界了。再進(jìn)行腐蝕操作時(shí)，外部邊界將變回原來的樣子，而這些內(nèi)部空洞則永遠(yuǎn)消失了。開運(yùn)算和閉運(yùn)算的運(yùn)算規(guī)則如下：

通過對(duì)采集到的不同距離的 253 張像素為 768×576 的圖片進(jìn)行處理后統(tǒng)計(jì)，車輛明亮塊的面積最小不低于 10，最大不超于 300，同一車輛的左右尾燈亮塊之間的水平距離不小于 20 大于 300。同時(shí)，在 0~100 m 的距離范圍內(nèi)，在不同距離采集到的圖像上的車輛尾燈亮塊面積不小于 10，因此先通過亮斑的面積閾值和水平距離閾值去除感興趣區(qū)域部分的一些干擾亮斑。

圖 5 基于圖像形態(tài)學(xué)和先驗(yàn)知識(shí)處理后的圖像 本文通過采用圖像形態(tài)學(xué)和先驗(yàn)知識(shí)處理后的圖像如圖 5 所示。 3.3 D-S 證據(jù)理論融合特征信息對(duì)處理后的感興趣區(qū)域部分的圖像進(jìn)行連通區(qū)域標(biāo)記，提取圖像上可以表征車輛的特征，包括：連通區(qū)域面積比、垂直方向重疊率，運(yùn)用 D-S 證據(jù)理論，融合車輛的特征信息得到總的信任度值。定義 1：設(shè)辨識(shí)框架 U 中的元素滿足不相容條件，命題 A 對(duì)基本概率賦值函數(shù) p 賦值 p（A） 是集合 2^U 到 ［0，1］ 的映射，滿足如下條件：

本文定義辨識(shí)框架為 U={true，false}，記連通區(qū)域面積比 R_A、垂直方向重疊率為 R_O，辨識(shí)框架下的 2 個(gè)命題分別為 A_1、A_2，其相應(yīng)的證據(jù)概率函數(shù)為 p_1、p_2，兩連通區(qū)域面積比接近 1 的時(shí)候，連通區(qū)域?qū)儆谕卉囕v的概率比較大，垂直方向重疊率越接近 1，兩連通區(qū)域在同一水平的概率越大，因此兩個(gè)命題的基本概率函數(shù)值由下式確定：

采用 D-S 組合規(guī)則，對(duì)相容命題所對(duì)應(yīng)的概率分配值進(jìn)行融合，從而得到這些相容命題的交集命題所對(duì)應(yīng)的概率分配值。假設(shè) p_1 和 p_2 2 個(gè)基本概率函數(shù)的焦元分別為 B_1，?，B_k 與 C_1，?，C_k，運(yùn)用正交和規(guī)則 p（A） = p_1 ⊕ p_2 得到 2 個(gè)證據(jù)體的組合輸出為：

p（A） 即是 p_1 和 p_2 的綜合概率賦值。

圖 6 運(yùn)用 D-S 證據(jù)理論融合信息檢測(cè)出的車輛尾燈 最終設(shè)立信任度閾值驗(yàn)證車輛如圖 6 所示。

圖 7 不同尾燈檢測(cè)圖

圖 8 不同干擾狀態(tài)檢測(cè)出的車輛尾燈 不同尾燈檢測(cè)結(jié)果見圖 7；不同干擾狀態(tài)檢測(cè)出的車輛尾燈檢測(cè)結(jié)果見圖 8。通過對(duì)不同車型試驗(yàn)，本方法的視覺驗(yàn)證可以實(shí)現(xiàn)對(duì)不同大小、形狀的尾燈的驗(yàn)證；在實(shí)際行車時(shí)，會(huì)出現(xiàn)前相鄰車輛開啟轉(zhuǎn)向燈、前后車輛距離過近造成前相鄰車輛的尾部會(huì)出現(xiàn)大面積反光、攝像機(jī)晃動(dòng)的情況，這幾種干擾狀態(tài)下視覺驗(yàn)證也可以實(shí)現(xiàn)對(duì)尾燈的驗(yàn)證。

04

試驗(yàn)結(jié)果

圖 9 夜間前方車輛識(shí)別

試驗(yàn)的硬件運(yùn)行環(huán)境為 Intel 奔騰 E6500 CPU，軟件環(huán)境包括 Windows XP 系統(tǒng)，VC++ 6.0 集成開發(fā)環(huán)境和 OpenCv 開源計(jì)算機(jī)視覺庫。采集夜間道路上行駛車輛的視頻數(shù)據(jù)，利用搭建的毫米波雷達(dá)與視覺系統(tǒng)進(jìn)行識(shí)別與判斷。車輛檢測(cè)的實(shí)驗(yàn)結(jié)果如表 2 所示。夜間環(huán)境條件下的前方車輛識(shí)別效果如圖 9 所示。

表 2 車輛檢測(cè)的實(shí)驗(yàn)結(jié)果

經(jīng)統(tǒng)計(jì)部分視頻數(shù)據(jù)并與人員主觀判斷比較，其中包含車輛圖像共 1170 幀，識(shí)別出車輛尾燈的圖像共 1060 幀，準(zhǔn)確率達(dá) 90.6%。因此，本文方法在夜間環(huán)境下具有較好的檢測(cè)效果；車輛所處環(huán)境的光照條件較差，存在路燈、地面反光等干擾光源，且路燈與車燈相似，但檢測(cè)系統(tǒng)仍可以準(zhǔn)確識(shí)別車輛尾燈，標(biāo)記出車燈位置。

05

結(jié)論

試驗(yàn)表明通過雷達(dá)可以確定前方車輛的距離、速度等信息，并形成感興趣區(qū)域。在感興趣區(qū)域內(nèi)采用基于機(jī)器視覺的圖像信息驗(yàn)證車輛，這不僅可以減少外界環(huán)境的干擾，還可以縮小檢驗(yàn)范圍，減少計(jì)算量。試驗(yàn)結(jié)果表明：研究使用的毫米波雷達(dá)和機(jī)器視覺融合的方法可以有效識(shí)別夜間前方車輛。該方法對(duì)于不同形狀的車輛尾燈具有很好的識(shí)別效果。由于車尾燈重疊或遮擋會(huì)發(fā)生驗(yàn)證失誤，這是下一步研究的重點(diǎn)。

審核編輯 ：李倩