一、背景
視覺-語言-動作(VLA)模型正成為機器人智能化的核心架構,但現有主流方法(如OpenVLA、π0、CogACT)存在一個根本性缺陷:用同一個動作模型統一處理所有類型的動作。這種「一刀切」的設計在面對機器人操控任務時暴露出兩大內在矛盾。
從任務特性來看,機器人操控存在兩種本質不同的動作類型:手臂大幅度運動(粗動作)需要全局場景理解、路徑約束寬松;夾爪精細操作(精細動作)需要局部精細聚焦、精確抓取姿態、容錯率極低。這兩種動作在路徑約束、視覺注意力和數據分布上有本質差異,用同一個模型兼顧「粗定位」與「精細操作」必然產生沖突。
此外,傳統方法缺乏對動作類型的主動感知與路由機制,無法根據當前操控階段動態分配合適的推理資源,導致在長時程復雜任務中錯誤率隨步驟增加而快速累積。DAM-VLA(Dynamic Action Model-Based Vision-Language-Action)首次將手臂運動與夾爪操作解耦建模,配合雙尺度加權機制實現了精準高效的機器人操控。
![]()
二、核心方法
DAM-VLA 的核心架構包含三大組件,各司其職,協同實現手臂-夾爪的精準解耦。
模塊一:雙通道視覺編碼與VLM骨架
同時采用DINOv2和SigLIP兩種視覺編碼器,輸出三類特征:普通視覺token用于多模態融合;DINOv2的class token(全局視覺表征)專門服務手臂運動模型;DINOv2的register token(局部視覺表征)專門服務夾爪操作模型。LLaMA-2的淺層輸出用于動作路由決策,深層輸出用于動作預測。這一設計使「全局感知」與「局部精細」的視覺信息分別流向對應的動作模型。
模塊二:VLM驅動的動作路由機制
利用VLM的推理能力判斷當前處于哪種操控階段,通過可學習路由權重w動態選擇激活手臂運動模型(w<0.5)或夾爪操作模型(w≥0.5)。兩個專用DiT擴散模型并行訓練:手臂運動模型接收全局視覺特征,預測大范圍粗動作;夾爪操作模型接收局部視覺特征,精細預測夾爪動作。動作路由實現了「該全局時全局,該精細時精細」的智能切換。
模塊三:雙尺度動作加權機制
軌跡級權重采用非對稱高斯分布(前沿σ=6寬、后沿σ=2窄),在夾爪狀態轉換點前后施加差異化權重,反映「操控前需要更充分準備」的人類直覺;Action-chunk級權重采用指數衰減(γ=0.8),確保近期動作預測權重更大。兩層加權機制聯合作用,顯著提升了操控的時序一致性。
三、亮點總結創新點一:真實機器人操控平均成功率86.8%
在Franka機器人的pick-and-place任務(80次試驗)中,DAM-VLA平均成功率達86.8%,遠超CogACT的62.9%(提升23.9個百分點)。分布內任務成功率91.4%(vs CogACT 65.7%),分布外泛化成功率82.2%(vs CogACT 60.0%),在仿真和真實環境中全面刷新SOTA。
創新點二:長時程任務最終成功率56%,超越所有基線
在FurnitureBench One-Leg組裝任務(連續5步操控)中,DAM-VLA最終成功率56%,遠超CogACT的42%和OpenVLA的29%。消融實驗顯示,雙尺度加權機制是核心貢獻,去掉后性能大幅下降,證明其對長時程動作連貫性的不可替代性。
創新點三:DINOv2 class/register token分工的關鍵發現
研究首次系統驗證了DINOv2的class token與register token具有天然的全局-局部信息分工——前者包含場景級全局語義,后者包含精細局部幾何信息。將兩類token分別路由給粗動作和精細動作模型,無需額外的特征對齊訓練,即可讓模型的「視覺感知」與「操控階段」高度匹配,為未來VLA模型的視覺編碼設計提供了重要的實證依據。
──────────────────────────────────────────
上述內容包含AI輔助生成,更詳細信息參見兩個鏈接 論文鏈接:https://arxiv.org/abs/2603.00926 解讀來源:https://research.samsung.com/blog/DAM-VLA-A-Dynamic-Action-Model-Based-Vision-Language-Action-Framework-for-Robot-Manipulation
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.