「自動駕駛新青年講座」由智猩猩企劃,致力于邀請全球知名高校、頂尖研究機構以及優秀企業的新青年,主講在環境感知、精準定位、決策規劃、控制執行等自動駕駛關鍵技術上的最新研究成果和開發實踐。

「自動駕駛新青年講座」目前已完結31講。有興趣分享的朋友,可以與智猩猩教研團隊進行郵件(class@jmfly.net)聯系

在傳統的自動駕駛系統中,往往需要復雜的規則和獎勵函數設計,而且受限于數據量和采樣效率,處理罕見事件是一大挑戰。此外,由于神經網絡的黑盒特性,現有基于學習的自動駕駛系統缺乏良好的可解釋性。

LanguageMPC:以大語言模型為核心的自動駕駛決策和控制系統 | 講座預告

針對此問題,來自清華大學和香港大學的研究人員共同提出的一種新型類人智駕系統 LanguageMPC,該系統將大語言模型(LLM)和模型預測控制(MPC)相結合,利用 LLM 像人一樣思考的能力,將人類常識和推理能力作為自動駕駛系統決策的指導。同時,基于模型預測控制算法研究員們還開發了將 LLM 給出的高層決策轉化為具體駕駛行為的方法,將高層決策與底層控制器無縫結合,可與當前各自動駕駛大廠的 MPC 框架完美結合,無縫銜接。

LanguageMPC 的核心技術包括專用于駕駛場景的思維鏈框架和高層決策與模型預測控制銜接。其中,思維鏈框架通過設計初始 prompt 和多種工具,指導 LLM 依次完成對周車的意圖判斷和注意力分配、判斷自車所處情景、給出駕駛動作指引等任務。而高層決策與模型預測控制銜接則是通過將 LLM 的決策轉化為可操作的駕駛行為。

12月22日晚6點,「自動駕駛新青年講座」第32講邀請到 LanguageMPC 一作、清華大學的沙昊參與,主講《LanguageMPC:以大語言模型為核心的自動駕駛決策和控制系統》。

講者
沙昊,清華大學在讀本科生;研究方向包括2D-3D視覺、自動駕駛、大語言模型等。

第32講

主 題
《LanguageMPC:以大語言模型為核心的自動駕駛決策和控制系統》

提 綱
1、自動駕駛場景的 LLM 專用思維鏈框架
2、基于 LLM 高層決策指導底層控制器
3、在定量指標上的性能體現
4、協調多輛汽車等復雜任務中的應用

直 播 信 息
直播時間:12月22日18:00
直播地點:智猩猩知識店鋪

成果
論文標題:《LanguageMPC:Large Language Models as Decision?Makers for Autonomous Driving》
論文地址://arxiv.org/pdf/2310.03026.pdf