0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

VADv2:基于概率性規(guī)劃的端到端自動(dòng)駕駛

地平線HorizonRobotics ? 來(lái)源:地平線HorizonRobotics ? 2024-02-22 10:21 ? 次閱讀

16km路線無(wú)后處理端到端閉環(huán)

概率性規(guī)劃

不同于感知,規(guī)劃中存在著更多的不確定性,對(duì)于同一場(chǎng)景,存在不同的合理的決策規(guī)劃結(jié)果。環(huán)境信息到?jīng)Q策規(guī)劃不存在明確的映射關(guān)系,因此學(xué)習(xí)擬人的駕駛策略極具挑戰(zhàn)性。以往的基于學(xué)習(xí)的規(guī)劃方法確定性地通過(guò)MLP回歸出規(guī)劃軌跡,無(wú)法應(yīng)對(duì)環(huán)境信息和決策規(guī)劃之間不明確的映射關(guān)系。同時(shí)基于神經(jīng)網(wǎng)絡(luò)輸出的軌跡無(wú)法保證滿足運(yùn)動(dòng)學(xué)約束,仍需要后端的軌跡優(yōu)化。

VADv2采用概率性規(guī)劃的方法,從大量的人類駕駛數(shù)據(jù)中,擬合每一時(shí)刻基于環(huán)境信息的自車軌跡概率分布,將問(wèn)題轉(zhuǎn)化為預(yù)測(cè)每一條軌跡和環(huán)境信息的相關(guān)性,從而應(yīng)對(duì)規(guī)劃中的不確定性。

0882c152-d0c3-11ee-a297-92fbcf53809c.jpg

圖1 規(guī)劃中的不確定性

算法框架

088a2302-d0c3-11ee-a297-92fbcf53809c.jpg

圖2 VADv2 算法框架

如圖2所示,VADv2以車載相機(jī)采集的流式圖像序列作為輸入。鑒于圖像信息稀疏性,VADv2將圖像信息轉(zhuǎn)換為具有高層語(yǔ)義信息的tokens。具體地,VADv2基于MapTRv2從環(huán)視圖像數(shù)據(jù)中提取地圖物理層和邏輯層的map tokens,同時(shí)從圖像中提取關(guān)于動(dòng)態(tài)障礙物的agent tokens和交通信號(hào)燈的traffic element tokens。此外,由于在連續(xù)的動(dòng)作空間上學(xué)習(xí)概率分布較為困難,VADv2將動(dòng)作空間離散化,通過(guò)最遠(yuǎn)軌跡采樣的方式從真實(shí)的軌跡數(shù)據(jù)中篩選出N條軌跡構(gòu)建軌跡集合,用于表征整個(gè)動(dòng)作空間。VADv2將軌跡通過(guò)正余弦編碼方式編碼為planning tokens。Planning tokens基于堆疊的Transformer結(jié)構(gòu)與包含環(huán)境信息的tokens交互,同時(shí)結(jié)合稀疏導(dǎo)航信息和自車狀態(tài)信息,輸出每一條軌跡的概率:

08920d7e-d0c3-11ee-a297-92fbcf53809c.png

在訓(xùn)練階段,VADv2通過(guò)KL散度約束預(yù)測(cè)的概率分布和駕駛數(shù)據(jù)對(duì)應(yīng)分布之間的一致性,并引入額外的場(chǎng)景約束進(jìn)一步降低存在安全風(fēng)險(xiǎn)的軌跡的概率。在推理階段,VADv2在每一個(gè)時(shí)刻從軌跡概率分布中采樣一條高置信度的軌跡用于車輛控制。由于輸出多模式的軌跡簇,VADv2也可以和基于優(yōu)化或規(guī)則的規(guī)控架構(gòu)結(jié)合,進(jìn)行二階段優(yōu)化以及篩選過(guò)濾。

08961126-d0c3-11ee-a297-92fbcf53809c.png

圖3 CARLA閉環(huán)規(guī)劃性能

08b0daec-d0c3-11ee-a297-92fbcf53809c.png

圖4 消融實(shí)驗(yàn)

閉環(huán)驗(yàn)證

在CARLA仿真器上,VADv2能夠長(zhǎng)時(shí)間控車穩(wěn)定地行駛,正確地響應(yīng)交通信號(hào)燈,通過(guò)復(fù)雜路口,與其他車輛和行人交互,剎停避障等。同時(shí),VADv2也在Town05 Benchmark上取得了顯著優(yōu)于其他方法的閉環(huán)性能(圖3)。消融實(shí)驗(yàn)如圖4所示,驗(yàn)證了各類token隱式表征和概率分布約束的有效性。

總結(jié)與展望

在CARLA仿真器上的閉環(huán)實(shí)驗(yàn)初步驗(yàn)證了該范式的可行性。未來(lái)的研究方向是如何與現(xiàn)有的規(guī)控架構(gòu)結(jié)合進(jìn)一步提升系統(tǒng)的魯棒性,以及在更加復(fù)雜的真實(shí)場(chǎng)景中展開(kāi)驗(yàn)證。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4588

    瀏覽量

    92505
  • 仿真器
    +關(guān)注

    關(guān)注

    14

    文章

    1014

    瀏覽量

    83591
  • 自動(dòng)駕駛
    +關(guān)注

    關(guān)注

    782

    文章

    13622

    瀏覽量

    165953

原文標(biāo)題:開(kāi)發(fā)者說(shuō) | VADv2:基于概率性規(guī)劃的端到端自動(dòng)駕駛

文章出處:【微信號(hào):horizonrobotics,微信公眾號(hào):地平線HorizonRobotics】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    自動(dòng)駕駛真的會(huì)來(lái)嗎?

      實(shí)際上,按照美國(guó)高速公路安全委員會(huì)(NHTSA)的5個(gè)分級(jí),特斯拉所使用的自動(dòng)駕駛屬于第2級(jí)別的“混合功能自動(dòng)化”,該級(jí)別主要包含能同時(shí)提供組合式的自動(dòng)化功能。比如
    發(fā)表于 07-21 09:00

    自動(dòng)駕駛的到來(lái)

    距離,更寬的速度探測(cè)范圍,以及更高的距離、速度及角度分辨率。  另外,隨著V2V,V2X的普及,自動(dòng)駕駛所需要處理的實(shí)時(shí)數(shù)據(jù)將呈現(xiàn)級(jí)數(shù)增長(zhǎng),這對(duì)處理芯片的性能也提出了更高的要求。ADI可以提供獨(dú)具特色
    發(fā)表于 06-08 15:25

    自動(dòng)駕駛技術(shù)的實(shí)現(xiàn)

    的帶寬有了更高的要求。從而使用以太網(wǎng)技術(shù)及中央域控制(Domain)和區(qū)域控制(Zonal)架構(gòu)是下一代車載網(wǎng)絡(luò)的發(fā)展方向。然而對(duì)于自動(dòng)駕駛技術(shù)的實(shí)現(xiàn),涉及感知、規(guī)劃、執(zhí)行三個(gè)層面。由于車輛行...
    發(fā)表于 09-03 08:31

    如何基于深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)一個(gè)自動(dòng)駕駛模型?

    如何基于深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)一個(gè)自動(dòng)駕駛模型?如何設(shè)計(jì)一個(gè)基于增強(qiáng)學(xué)習(xí)的自動(dòng)駕駛決策系統(tǒng)?
    的頭像 發(fā)表于 04-29 16:44 ?4836次閱讀
    如何基于深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)一個(gè)<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b>的<b class='flag-5'>自動(dòng)駕駛</b>模型?

    基于自動(dòng)駕駛系統(tǒng)只能做demo嗎

    只配做demo嗎?由劍橋大學(xué)團(tuán)隊(duì)創(chuàng)辦的Wayve無(wú)人駕駛軟件公司卻不這么認(rèn)為。
    的頭像 發(fā)表于 12-26 10:39 ?475次閱讀

    自動(dòng)駕駛到底是什么?

    UniAD 統(tǒng)一自動(dòng)駕駛關(guān)鍵任務(wù),但是的訓(xùn)練難度極大,對(duì)數(shù)據(jù)的要求和工程能力的要求比常規(guī)的技術(shù)棧要高,但是由此帶來(lái)的全局一致性讓整個(gè)系統(tǒng)變得更加簡(jiǎn)潔,也能夠防止某個(gè)模塊進(jìn)入局部最
    發(fā)表于 06-28 14:47 ?3383次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>到底是什么?

    基于矢量化場(chǎng)景表征的自動(dòng)駕駛算法框架

    在ICCV 2023上,地平線和華中科技大學(xué)提出基于矢量化場(chǎng)景表征的自動(dòng)駕駛算法——VAD。VAD擯棄了柵格化表征,對(duì)整個(gè)駕駛場(chǎng)景進(jìn)行
    發(fā)表于 08-31 09:28 ?994次閱讀
    基于矢量化場(chǎng)景表征的<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>算法框架

    理想汽車自動(dòng)駕駛模型實(shí)現(xiàn)

    理想汽車在感知、跟蹤、預(yù)測(cè)、決策和規(guī)劃等方面都進(jìn)行了模型化,最終實(shí)現(xiàn)了的模型。這種模型不僅完全模型化,還能夠虛擬化,即在模擬環(huán)境中進(jìn)行訓(xùn)練和測(cè)試。
    發(fā)表于 04-12 12:17 ?394次閱讀
    理想汽車<b class='flag-5'>自動(dòng)駕駛</b><b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b>模型實(shí)現(xiàn)

    佐思汽研發(fā)布《2024年自動(dòng)駕駛研究報(bào)告》

    自動(dòng)駕駛是直接從傳感器信息輸入(如攝像頭圖像、LiDAR等)控制命令輸出(如轉(zhuǎn)向、加減速等)映射的一套系統(tǒng),最早出現(xiàn)在1988年的A
    的頭像 發(fā)表于 04-20 11:21 ?2748次閱讀
    佐思汽研發(fā)布《2024年<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>研究報(bào)告》

    智行者聯(lián)合清華完成國(guó)內(nèi)首套全棧式自動(dòng)駕駛系統(tǒng)的開(kāi)放道路測(cè)試

    近日,智行者與清華大學(xué)車輛學(xué)院李克強(qiáng)院士、李升波教授領(lǐng)導(dǎo)的研究團(tuán)隊(duì),完成了國(guó)內(nèi)首套全棧式自動(dòng)駕駛系統(tǒng)的開(kāi)放道路測(cè)試。
    的頭像 發(fā)表于 04-22 09:24 ?730次閱讀
    智行者聯(lián)合清華完成國(guó)內(nèi)首套全棧式<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>系統(tǒng)的開(kāi)放道路測(cè)試

    理想汽車加速自動(dòng)駕駛布局,成立“”實(shí)體組織

    近期,理想汽車在其智能駕駛領(lǐng)域邁出了重要一步,正式成立了專注于“自動(dòng)駕駛”的實(shí)體組織,該組織規(guī)模超過(guò)200人,標(biāo)志著理想在
    的頭像 發(fā)表于 07-17 15:42 ?1285次閱讀

    實(shí)現(xiàn)自動(dòng)駕駛,唯有?

    ,去年行業(yè)主流方案還是輕高精地圖城區(qū)智駕,今年大家的目標(biāo)都瞄到了(End-to-End, E2E)。
    的頭像 發(fā)表于 08-12 09:14 ?544次閱讀
    實(shí)現(xiàn)<b class='flag-5'>自動(dòng)駕駛</b>,唯有<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b>?

    Mobileye自動(dòng)駕駛解決方案的深度解析

    自動(dòng)駕駛技術(shù)正處于快速發(fā)展之中,各大科技公司和汽車制造商均在爭(zhēng)相布局,試圖在這個(gè)新興領(lǐng)域占據(jù)一席之地。Mobileye作為全球自動(dòng)駕駛技術(shù)的領(lǐng)軍企業(yè)之一,憑借其獨(dú)特的
    的頭像 發(fā)表于 10-17 09:35 ?256次閱讀
    Mobileye<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>解決方案的深度解析

    Waymo利用谷歌Gemini大模型,研發(fā)端自動(dòng)駕駛系統(tǒng)

    邁新步,為其機(jī)器人出租車業(yè)務(wù)引入了一種基于谷歌多模態(tài)大語(yǔ)言模型(MLLM)“Gemini”的全新訓(xùn)練模型——“多模態(tài)自動(dòng)駕駛模型”(EMMA)。
    的頭像 發(fā)表于 10-31 16:55 ?900次閱讀

    連接視覺(jué)語(yǔ)言大模型與自動(dòng)駕駛

    自動(dòng)駕駛在大規(guī)模駕駛數(shù)據(jù)上訓(xùn)練,展現(xiàn)出很強(qiáng)的決策規(guī)劃能力,但是面對(duì)復(fù)雜罕見(jiàn)的
    的頭像 發(fā)表于 11-07 15:15 ?103次閱讀
    連接視覺(jué)語(yǔ)言大模型與<b class='flag-5'>端</b><b class='flag-5'>到</b><b class='flag-5'>端</b><b class='flag-5'>自動(dòng)駕駛</b>