今天小編分享的科技經驗:英偉達推全新視覺語音模型NVEagle,可以看圖聊天,歡迎閱讀。
品玩 9 月 2 日訊,據英偉達官方消息,英偉達聯合 Georgia Tech、UMD 和 HKPU 的研究團隊推出了全新的視覺語言模型 —— NVEagle。
據悉,NVEagle 能夠理解復雜的現實場景,通過視覺輸入進行更好的解讀和回應。它的設計核心在于将影像轉化為視覺标記,再與文本嵌入相結合,進而提升了對視覺信息的理解。NVEagle 包括了三個版本 :Eagle-X5-7B、Eagle-X5-13B 以及 Eagle-X5-13B-Chat。其中,7B 和 13B 版本主要用于一般的視覺語言任務,而 13B-Chat 版本則專門針對對話式 AI 進行了微調,能夠更好地進行基于視覺輸入的互動。
NVEagle 的一個亮點在于采用了混合專家(MoE)機制,能夠根據不同任務動态選擇最合适的視覺編碼器,這極大提升了對復雜視覺信息的處理能力。該模型已在 Hugging Face 上發布,方便研究人員和開發者使用。