觀點網訊:近日,覓蜂科技聯合西北工業大學、西安交通大學發表論文,提出第一視角運動重建框架“MEgoVista”,用以將Ego視頻更精準地轉化為4D數據。

第一視角(Ego)視頻讓數據採集從專業場地走進真實生活和工作,成為具身智能預訓練的重要數據來源。但要從中提煉4D數據,系統還需準確辨認佩戴者的雙手、還原手指的彎曲姿態,並測量手在空間中的移動距離。

論文實驗結果顯示,MEgoVista在Ego視頻上具備較高的重建精度,可將無需預先佈置場景的第一視角錄製數據,有效轉化為具有真實尺度的雙手動作和頭部運動軌跡。研究團隊通過獨立動捕系統測評和真實場景對比,檢驗了該框架的重建精度與跟蹤表現,其中獨立光學動作捕捉系統由26臺攝像頭組成,用於提供參考數據。

測試中,經位置、朝向和尺度對齊後,MEgoVista的手指姿態誤差為4.29毫米,低於HaWoR的16.30毫米和Dyn-HaMR的49.18毫米;動作抖動指標為1.11毫米/幀²,也低於兩種對比方法。

在製作奶茶、美甲和給寵物洗澡三個真實場景的畫面對比中,MEgoVista整體跟蹤更穩定,在美甲場景中是三者中唯一正確區分佩戴者與顧客雙手的系統。

兩組頭部軌跡測試中,MEgoVista完整片段的平均位置誤差分別為2.87毫米和0.75毫米。