UniClawBench:面向真實世界任務的主動式智慧體通用能力基準評測

隨著大語言模型及多模態大語言模型的飛速發展,具備操作日常工具並協助用戶在真實環境中主動完成任務的智慧體(Proactive Agents)正迅速崛起。然而,現有基準測試往往依賴沙盒環境或單輪評估範式,難以有效衡量智慧體的實際表現,且其基於場景的任務分類常將多種模型能力摻雜,導致難以定位失敗根源。為此,本文提出UniClawBench,這是首個面向動態真實世界環境的以能力驅動為核心的基準測試。該基準圍繞技能使用、探索、長上下文推理、多模態理解和跨平台協調五大基礎能力,設計了400個雙語真實世界任務。與依賴靜態預錄答案的舊基準不同,UniClawBench在即時Docker容器中通過細粒度的分步檢查點對智慧體進行評估。此外,本文設計了一種包含執行者、隱藏監督者和用戶代理的閉環評估策略,以模擬真實的多輪人類反饋而不洩露評分標準。通過在多種智慧體框架下評估最先進模型,研究揭示了基礎模型能力與框架設計如何共同影響真實環境中的性能。該基準及代碼已開源,旨在促進相關領域的深入研究。

Sources