今天小編分享的互聯網經驗:馬斯克再做預告,FSD規控算法或引入大模型,歡迎閲讀。
文|韓永昌
編輯|李勤
近日,馬斯克在推特上表示:車輛控制是 FSD AI 難題中的最後一關,這可以讓超過 30 萬行 C++ 控制代碼減少約 2 個數量級。目前我們的工程師進展順利,但訓練計算的進展受限。
這似乎預示着,FSD 的規控算法将引入大模型以加速落地。
FSD 是特斯拉的自動駕駛軟體。在馬斯克的願景中,FSD 要讓車輛做到不在人工幹預的情況下完全自動駕駛,而且要比人類司機更安全。
而想要正式推出 FSD 或者説實現自動駕駛,需要攻克感知、規劃、控制等技術關卡。只有在将第一步的感知問題解決之後,才能步入規劃和控制階段的突破瓶頸。
兩年前,特斯拉重寫感知模塊代碼,将大模型引入自動駕駛領網域,提出了 BEV+Transformer 的組合。随後,小鵬、理想、蔚來等車企以及眾多智駕供應商也逐漸開始使用 BEV+transformer 以解決感知層面的問題。自動駕駛第一步的 " 最優解 " 得到了多數人的認可。
大模型的引入給感知模塊帶來了明顯的效果提升," 重感知輕地圖 " 的趨勢愈發明顯,數據閉環體系也逐漸成型。
而今,馬斯克再次透露,在規控算法中特斯拉同樣用了 AI 算法精簡代碼,這意味着規控代碼也正在被重寫。重寫代碼後,系統本身的訓練需要海量的數據和算力支撐,這或許也是馬斯克表示 " 算力受限 " 的原因。
傳統的規控算法基于規則制來運行,代碼繁重,工作復雜。若特斯拉将大模型引入規控算法中,不僅将對代碼進行精簡,規控算法的訓練也将進一步提速,将更加接近人類駕駛員。不過需要注意的是,規控環節的安全風險比感知環節的更高,因此也需要用傳統的規則制來進行兜底。
但就目前來看,特斯拉在規控模塊引入大模型還在前期階段,需要解決的仍是算力問題。此前特斯拉工程總經理 Tim Zaman 也在推特上表示,目前我們的計算集群只有 0.3% 的空閒時間,其中 84% 的工作都是高優先級的,我們希望可以擁有更多的計算空間。
這一問題或許會随着 Dojo 的投入使用而有望得到解決。
據了解,7 月份特斯拉自研的超級計算機 Dojo 已經正式投產。數據顯示,每個 Dojo 都集成了 120 個訓練模塊,内置 3000 個 D1 芯片,擁有超過 100 萬個訓練節點,算力達到 1.1EFLOP(每秒千萬億次浮點運算)。
馬斯克對此期待已久,他認為 Dojo 的使用在訓練成本上會讓特斯拉有一個數量級的提高。根據特斯拉的規劃,Dojo 将帶動特斯拉進入算力快速增長期。2024 年 2 月特斯拉的算力規模将進入全球前五,2024 年 10 月特斯拉的算力總規模将達到 100 Exa-Flops。
随着 Dojo 的投入使用,特斯拉的規控算法将加快重建,FSD 年内落地或将成為現實。而此後進展如何,相信馬斯克還會再做出預告。