理想汽車發佈下一代自動駕駛架構Mind VLA

老虎資訊綜合
03-18

3月18日,理想汽車-W盤中拉昇,現漲超6%!理想汽車自動駕駛技術研發負責人賈鵬在NVIDIA GTC 2025發表主題演講,公佈下一代自動駕駛技術Mind VLA研發進展。

3月18日,理想汽車自動駕駛技術研發負責人賈鵬在NVIDIA GTC 2025發表主題演講《VLA:邁向自動駕駛物理智能體的關鍵一步》,分享了理想汽車對於下一代自動駕駛技術MindVLA的最新思考和進展。

賈鵬表示:“MindVLA是機器人大模型,它成功整合了空間智能、語言智能和行爲智能,一旦跑通物理世界和數字世界結合的範式後,將有望賦能更多行業。MindVLA將把汽車從單純的運輸工具轉變爲貼心的專職司機,它能聽得懂、看得見、找得到。我們希望MindVLA能爲汽車賦予類似人類的認知和適應能力,將其轉變爲能夠思考的智能體。”

理想全棧自研MindVLA:深度融合空間、語言及行爲智能

基於端到端+VLM雙系統架構的最佳實踐,及對前沿技術的敏銳洞察,理想自研VLA模型——MindVLA。VLA是機器人大模型的新範式,其將賦予自動駕駛強大的3D空間理解能力、邏輯推理能力和行爲生成能力,讓自動駕駛能夠感知、思考和適應環境。

MindVLA不是簡單地將端到端模型和VLM模型結合在一起,所有模塊都是全新設計。3D空間編碼器通過語言模型,和邏輯推理結合在一起後,給出合理的駕駛決策,並輸出一組Action Token(動作詞元),Action Token指的是對周圍環境和自車駕駛行爲的編碼,並通過Diffusion(擴散模型)進一步優化出最佳的駕駛軌跡,整個推理過程都要發生在車端,並且要做到實時運行。

MindVLA六大關鍵技術,樹立全新技術範式

MindVLA打破自動駕駛技術框架設計的傳統模式,使用能夠承載豐富語義,且具備出色多粒度、多尺度3D幾何表達能力的3D高斯(3D Gaussian)這一優良的中間表徵,充分利用海量數據進行自監督訓練,極大提升了下游任務性能。

理想從0開始設計和訓練了適合MindVLA的LLM基座模型,採用MoE混合專家架構,引入Sparse Attention(稀疏注意力),實現模型稀疏化,保證模型規模增長的同時,不降低端側的推理效率。基座模型訓練過程中,理想加入大量3D數據,使模型具備3D空間理解和推理能力。爲了進一步激發模型的空間智能,理想加入了未來幀的預測生成和稠密深度的預測等訓練任務。

LLM基座模型獲得3D空間智能的同時,還需要進一步提升邏輯推理能力。理想訓練LLM基座模型學習人類的思考過程,讓快慢思考有機結合到同一模型中,並可以實現自主切換快思考和慢思考。爲了把NVIDIA Drive AGX的性能發揮到極致,MindVLA採取小詞表結合投機推理,以及創新性地應用並行解碼技術,進一步提升了實時推理的速度。至此,MindVLA實現了模型參數規模與實時推理性能之間的平衡。

MindVLA利用Diffusion將Action Token解碼成優化的軌跡,並通過自車行爲生成和他車軌跡預測的聯合建模,提升在複雜交通環境中的博弈能力。同時Diffusion可以根據外部條件,例如風格指令,動態調整生成結果。爲了解決Diffusion模型效率低的問題,MindVLA採用Ordinary Differential Equation(常微分方程)採樣器,實現了2-3步就能完成高質量軌跡的生成。面對部分長尾場景,理想建立起人類偏好數據集,並且創新性地應用RLHF(基於人類反饋的強化學習)微調模型的採樣過程,最終使MindVLA能夠學習和對齊人類駕駛行爲,顯著提升安全下限。

MindVLA基於自研的重建+生成雲端統一世界模型,深度融合重建模型的三維場景還原能力與生成模型的新視角補全,以及未見視角預測能力,構建接近真實世界的仿真環境。源於世界模型的技術積累與充足計算資源的支撐,MindVLA實現了基於仿真環境的大規模閉環強化學習,即真正意義上的從“錯誤中學習”。過去一年,理想自動駕駛團隊完成了世界模型大量的工程優化,顯著提升了場景重建與生成的質量和效率,其中一項工作是將3D GS的訓練速度提升至7倍以上。

理想通過創新性的預訓練和後訓練方法,讓MindVLA實現了卓越的泛化能力和湧現特性,其不僅在駕駛場景下表現優異,在室內環境也展示出了一定的適應性和延展性。

MindVLA賦能汽車變爲專職司機,重塑用戶體驗

MindVLA將爲用戶帶來全新的產品形態和產品體驗,有MindVLA賦能的汽車是聽得懂、看得見、找得到的專職司機。“聽得懂”是用戶可以通過語音指令改變車輛的路線和行爲,例如用戶在陌生園區尋找超市,只需要通過理想同學對車輛說:“帶我去找超市”,車輛將在沒有導航信息的情況下,自主漫遊找到目的地;車輛行駛過程中,用戶還可以跟理想同學說:“開太快了”“應該走左邊這條路”等,MindVLA能夠理解並執行這些指令。

“看得見”是指MindVLA具備強大的通識能力,不僅能夠認識星巴克、肯德基等不同的商店招牌,當用戶在陌生地點找不到車輛時,可以拍一張附近環境的照片發送給車輛,擁有MindVLA賦能的車輛能夠搜尋照片中的位置,並自動找到用戶。

“找得到”意味着車輛可以自主地在地庫、園區和公共道路上漫遊,其中典型應用場景是用戶在商場地庫找不到車位時,可以跟車輛說:“去找個車位停好”,車輛就會利用強大的空間推理能力自主尋找車位,即便遇到死衚衕,車輛也會自如地倒車,重新尋找合適的車位停下,整個過程不依賴地圖或導航信息,完全依賴MindVLA的空間理解和邏輯推理能力。

總結來說,對於用戶而言,有MindVLA賦能的車不再只是一個駕駛工具,而是一個能與用戶溝通、理解用戶意圖的智能體;對於汽車行業而言,像iPhone 4重新定義了手機,MindVLA也將重新定義自動駕駛;對於人工智能領域而言,汽車作爲物理人工智能的最佳載體,未來探索出物理世界和數字世界結合的範式,將有望賦能多個行業協同發展。

理想在不斷進行技術創新的同時,還在人工智能領域頂級學術會議和期刊發表了大量論文,爲加速技術發展貢獻了重要力量。未來,理想汽車將繼續在用戶價值的驅動下,堅持技術創新,連接物理世界和數字世界,成爲全球領先的人工智能企業。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10