今天小編分享的互聯網經驗:野心滿滿的Genesis:要讓你用一句話為機器人生成一整個世界,歡迎閱讀。
來自卡内基梅隆大學、斯坦福大學、麻省理工計算機科學與人工智能實驗室、英偉達和清華大學的眾多核心貢獻者推出了一個全新的物理仿真平台 Genesis,專為通用機器人、具身人工智能和物理 AI 應用而設計。
Genesis 項目已經開發了 2 年,結合了生成式 AI 的創造力和真實世界物理的準确性。能夠創建虛拟環境并進行訓練幫助機器理解物理世界、更好的與物理世界互動,這種方式不僅逼真,而且速度和效率都很高。
Genesis 同時具備多種功能:
- 通用物理引擎:一個從零開始重新構建的通用物理引擎,能夠模拟廣泛的材料和物理現象。
- 機器人仿真平台:一個輕量級、超快、符合 Python 化且用戶友好的機器人仿真平台。
據項目貢獻者 CMU 機器人研究所博士生 Zhou Xian 表示,Genesis 的物理引擎完全采用純 Python 開發,其速度卻比廣泛用于機器人模拟和強化學習研究的框架如 Isaac Gym 和 MJX 快 10 到 80 倍,且完全沒有犧牲精确度。僅需 26 秒便可在一塊 RTX4090 上訓練出可遷移至現實世界的機器人運動策略。
使用單個 RTX 4090,Genesis 能在不到 2 毫秒的時間内同時為 10000 台像高級 Franka 臂這樣的機器人手臂求解 IK。這種速度和效率是前所未有的,為大規模機器人模拟、工業自動化和復雜研究項目開創了新的可能性。
- 照片級真實感渲染系統:一個強大且快速的逼真渲染系統。
- 生成式數據引擎:能将用戶提示的自然語言描述轉化為多種形式的數據。
其核心在于,Genesis 将多種先進的物理求解器整合進一個統一框架,提供了無與倫比的仿真能力。這一強大的基礎,輔以生成式代理框架,旨在自動化數據生成,推動機器人研究及更廣泛領網域的邊界。
Genesis 的主要特點
統一物理模拟:基于通用物理引擎,Genesis 集成了尖端的求解器,以卓越的精度和保真度模拟廣泛的物理場景。
生成式框架:生成式代理框架作為一個模塊化系統運行,集成了多種生成模塊以處理不同的數據形态。這些模塊由一個高級代理進行路由,無縫整合現有研究和持續進展。
Genesis 項目引入了一個生成式代理,能夠完全自主地處理教導機器人在真實環境中運行的每個步驟。首先,它自主設計模拟真實世界空間的虛拟環境,如廚房、客廳和其他日常環境。然後,它為機器人提出要執行的任務,比如打開微波爐、拾取物品或在家具間導航。
開源可訪問性:物理引擎和仿真平台已開源,研究人員和開發者能夠自由探索、實驗并創新。生成功能将逐步推出,以擴大訪問範圍。
照片級真實感渲染:Genesis 将超快渲染能力與視覺震撼效果相結合,使模拟更加沉浸式且逼真。
Genesis 還支持角色動作生成,比如能做出一個會雜技動作的小悟空,還能生成各種機器人控制策略,例如整理書本的機械臂、能同步翻轉的無人機等等。
目前,Genesis 團隊正在開源底層物理引擎和仿真平台,官方稱生成框架的訪問權限将在不久的将來逐步推出。
不過,也有網友表示:用一個完全不存在的 generate 函數來演示有畫大餅的嫌疑。" 就算這部分内容不開源,也希望作者團隊能出一個實機演示視頻。"
又一個世界模拟器?更多是解決具身智能的數據瓶頸
Genesis 團隊的目标是構建一個通用數據引擎,利用上層生成框架自主創建物理世界,并伴随多種數據模式,包括環境、攝影機運動、機器人任務提案、獎勵函數、機器人策略、角色動作、完全互動的 3D 場景、開放世界的關節資產等,旨在實現機器人、物理 AI 及其他應用的完全自動化數據生成。
顯然,它并不是一個世界模拟器 /Sora。Genesis 是物理引擎和生成式 AI 的混合體,主要的作用是為通用機器人學習的提供了一個統一的模拟平台,通過降低物理模拟的門檻,虛拟再現現實世界,從而減少人類在數據生成中的投入,實現機器人及相關領網域中自動化和自給自足的數據生态系統。
機器人的數據收集一直是一個棘手的問題,一種方法是通過手動操作機器人來采集數據,因為是在真實物理世界中與機器人互動,可以确切知道機器人的位置、如何與世界互動,以及任務是如何成功或失敗的。然而現實世界的數據采集成本高、效率低、難以擴展,并且存在各種局限性 ( 數據模态不完整、難以收集閉環數據等 ) 。Genesis 的解決方式是利用物理模拟和生成式 AI 技術,自主生成大量多樣化的訓練數據,無需依賴昂貴的真機數據采集,從而降低數據獲取的門檻。
此外,許多仿真環境在物理特性和渲染效果方面與現實世界存在差距,導致訓練出的機器人難以在現實世界中應用,形成 "Sim2Real Gap"。Genesis 的解決方式是提供一個能夠模拟各種材料和物理現象的通用物理引擎,并采用真實感渲染系統,盡可能使仿真環境逼近真實世界,支持基于物理原理的觸覺傳感器模拟。類似英偉達的 Isaac Sim 或 Isaac Gym 等項目通過仿真技術,加速了機器人領網域的發展。
從展示的 demo 來看,Genesis 支持自然語言描述生成相應的場景,利用生成式 AI 技術生成傳感器數據和策略,渲染物理屬性的仿真也做得很到位,這對于解決具身數據稀缺,具有非常重要的意義。
關于機器人行業的仿真問題,地瓜機器人雲平台副總裁秦玉森向矽星人表達了他的看法:
以阿波羅登月計劃為例,即便我們擁有當年的所有數據資產,在今天也難以完全復刻這一壯舉。這不僅僅是因為許多原始電子元器件已經停產,更重要的是,僅僅依靠更強大的算力和更多的數據并不能解決根本問題。雖然現代智能手機的運算能力已經遠超當年的超級計算機,但在載人登月這樣的復雜工程面前,我們依然面臨重重挑戰。
" 因為化簡為繁易,化繁為簡難,缺少能在數學和工程上優雅的做到化簡,仿真只是徒增計算量。" " 仿真仿的足夠真,是需要算力和各種資源的,對于機器人來說,那為何不直接在現實世界中不斷搭建呢?"
因此,他認為 Genesis 作為引擎的價值在于可以讓仿真的工程在 " 工程架構 " 相對優雅,化繁為簡的把調用引擎需要理解的各種物理屬性,變為能通過自然語言進行引擎搭建。
他表示,Genesis 的本質是證明了某條路可行,但距離真正的創造實際價值,還需要很多下遊的產業人員配合。
" 比如當年英偉達 Issac SIM 應該是 2018 年發布的,至今 6 年了,業界有人使用,但是還是在易用度上有些許問題。"
Genesis 的團隊的 Chuang Gan 則在 X 上表示," 我認識到許多機器人學家對此方法持懷疑态度,指出設定模拟器和解決模拟與現實差距的困難。他們主張僅專注于從現實世界數據中學習。我理解這些擔憂,但我堅信我們不能僅僅因為創建一個好的物理模拟器具有挑戰性就繞過物理模拟器!" 他說," 請加入 Genesis 社區!我們希望說服機器人界‘ Generative Physics Simulator is all You Need!’ "
Genesis 或許還并不能做到 " 創世記 ",但 AI 離真實的物理世界的确是越來越近了。