今天小編分享的科技經驗:AMD 推出 AI 開源項目“GAIA”:目前僅适用于 Windows,歡迎閱讀。
IT 之家 3 月 22 日消息,當地時間周四,AMD 宣布推出專為本地運行大語言模型(LLM)設計的應用 GAIA(發音為 / ˈɡ a ɪ . ə /)并在 Github 開源,目前僅限于 Windows 平台。
GAIA 是一款生成式 AI 應用,能夠在 Windows PC 上實現本地化私密運行 LLM,并針對銳龍 AI 300 系列處理器進行了優化,标志着 AMD 在邊緣計算領網域的又一重要布局。
在 NPU 上運行 GAIA 可提高 AI 特定任務的性能。從 Ryzen AI 軟體版本 1.3 開始,混合支持部署同時使用 NPU 和核顯的量化 LLM。
其核心組件基于 ONNX TurnkeyML 的 Lemonade SDK 開發,采用檢索增強生成(RAG)技術框架,通過本地向量索引實現 YouTube、GitHub 等外部數據的實時檢索與分析。
系統工作流包含 LLM 連接器、LlamaIndex RAG 管道和代理 Web 伺服器三大模塊,支持 Llama、Phi 等主流模型。功能模塊包含四大 AI 智能體:
Chaty:支持歷史對話的聊天機器人
Clip:YouTube 視頻搜索與問答專家
Joker:具備幽默風格的笑話生成器
Simple Prompt:模型直接互動測試工具
硬體方面,AMD 提供普通版與混合版兩種安裝方案。普通安裝包兼容任意 Windows PC(含非 AMD 硬體設備),通過 Ollama 後端實現跨平台支持。
混合安裝包專為配備銳龍 AI 300 系列處理器的設備進行優化,可智能分配 NPU 與集成顯卡的計算負載。AMD 表示,Ryzen AI 軟體自 1.3 版本起支持量化模型在 NPU 和集成顯卡間的混合部署。
隐私與性能優勢方面:
本地化處理确保醫療、金融等敏感行業數據不出境
響應延遲降低至毫秒級(相較雲端方案縮短 40-60%)
NPU 專用架構實現每瓦性能提升,支持離線環境運行
該項目采用 MIT 開源協定,代碼庫已在 GitHub 開放。AMD 特别鼓勵開發者貢獻自定義代理模塊,目前已有多個行業定制化代理處于開發階段。
此外,盡管 GAIA 目前暫不支持 Linux / macOS 系統,但 AMD 官方文檔透露未來可能擴展多平台支持。
IT 之家附 Github 地址:
https://github.com/amd/gaia