該框架可提升感知、規劃控制乃至世界模型的訓推效率,在多個行業模型的訓練任務中,PAI-TurboX均可縮短50%的時間。
觀點網訊:6月23日,阿里雲推出面向自動駕駛領域模型的訓練、推理加速框架PAI-TurboX,該框架可提升感知、規劃控制乃至世界模型的訓推效率,在多個行業模型的訓練任務中,PAI-TurboX均可縮短50%的時間。
據介紹,該框架通過優化CPU親和性、動态編譯、流水線並行等策略,顯著提升模型訓練推理效率。在數據側,PAI-TurboX提出高性能的DataLoader引擎,優化數據預處理流程,實現智能訓練樣本分組,有效提升數據處理效率。
此外,PAI-TurboX還提供算子優化和量化等能力,減少訓練階段的訪存延遲,提升吞吐效率,同時在推理任務中保障精度的同時降低計算開銷與内存帶寬需求,實現異構平台下的高性能推理部署。
另悉,PAI-TurboX在自動駕駛的3D物體檢測模型BEVFusion訓練任務中,可将訓練時間縮短58.5%;在實時在線矢量化高精地圖構建模型MapTR訓練任務中,可将訓練時間縮短53%;在端到端自動駕駛模型SparseDrive訓練任務中,PAI-TurboX在感知模塊訓練和聯合訓練兩個階段可獲得明顯的速度提升,相同訓練步數下兩個階段可分别縮短51.5%和48.5%。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
審校: