今天小編分享的科技經驗:昔日AI網紅遇上今日頂流:谷歌大模型将融合AlphaGo技術 反超OpenAI從現在開始?,歡迎閱讀。
《科創板日報》6 月 28 日(編輯 宋子喬) 融合了 AlphaGo 背後技術的大模型 Gemini,會是谷歌成功反擊 OpenAI 的王牌嗎?
在 5 月的開發者大會上,谷歌首次透露了其正在開發的大模型 Gemini(雙子座)。谷歌旗下 DeepMind CEO 戴密斯•哈薩比斯(Demis Hassabis)最近在采訪中進一步透露了 Gemini 的細節:Gemini 會将 AlphaGo 中使用的技術與大模型結合,以賦予更強的規劃或解決問題的能力,将比 ChatGPT 背後的 GPT-4 更強大。
哈薩比斯表示,除了 AlphaGo,Gemini 還會有别的創新。
綜合來看,DeepMind擁有的其他領網域技術(如機器人和神經科學)也可能整合到 Gemini 中。谷歌曾提到,Gemini 具有多模态功能,将提供多種規模,旨在支持未來内存和規劃上的創新。另有消息稱,像 GPT-4 一樣,Gemini 具有一萬億個參數。據說 Gemini 将使用數以萬計的谷歌 TPUAI 芯片進行訓練。
目前,Gemini 還在開發中,這個過程預計需要幾個月的時間,可能花費數千萬美元,甚至數億美元。這一預計成本與 GPT-4 不相上下,打造 GPT-4 的成本超過 1 億美元。
▌谷歌大模型将融合 AlphaGo 技術
作為 ChatGPT 的 " 前輩 ",AlphaGo 曾是 AI 史上的超級明星,其在 2016 年橫空出世,以打敗李世石火速出圈,是第一個擊敗圍棋世界冠軍的程式。
AlphaGo 主要基于強化學習的訓練方法,通過自我對弈進行神經網絡訓練。該技術的核心思想是 " 試錯 "(trial-and-error):智能體通過與環境的互動,根據獲得的反饋信息調整自己的表現。
另外,AlphaGo 還使用了蒙特卡洛樹搜索方法,這也是所有現代圍棋程式的最核心算法,用來探索和記住場景中可能的移動,如棋盤上所有可能的動作。
利用自己在強化學習方面的經驗,DeepMind 有望在大語言模型上產生新的突破。
要知道,訓練像 OpenAI 的 GPT-4 這樣的大型語言模型,需要将來自書籍、網頁和其他來源的大量精選數據集的輸入 Transformer 中。Transformer 使用訓練數據中的模式來熟練預測後續文本中應該出現的每一個字母和單詞。
這一機制盡管在回答問題和生成文本或代碼方面非常強大,但也被很多人工智能專家認為限制了通用人工智能的發展。如圖靈獎得主楊立昆(Yann LeCun)就表示,Transformer 将語言模型的能力過度限制在了文本的範圍之内,ChatGPT 還沒有狗聰明。
▌不容小觑的谷歌
谷歌在 AI 上蟄伏多年,積累了深厚的技術和經驗,GPT 的技術底座 Transformer 架構正是由谷歌研發并開源。
2023 年 4 月谷歌大刀闊斧将 DeepMind 與谷歌的主要人工智能實驗室 Brain 合并為谷歌 DeepMind。哈薩比斯自信稱," 如果你看看我們在人工智能領網域的進展,你會相信,未來 80% 或 90% 的創新來自其中一個團隊。在過去十年中,這兩個團隊都取得了輝煌的成就。"
值得注意的是,谷歌的 AI 武器庫不止由 DeepMind 提供,它旗下知名網站除了谷歌搜索,還有全球最大的視頻網站 YouTube,上面有大量原創、轉載視頻,活躍着眾多粉絲數超百萬的網絡紅人。最新數據顯示,YouTube 每月有超過 20 億的登錄用戶,在社交媒體中僅次于 Facebook。
這也意味着,YouTube 是一個巨大的數據庫、流量池。據 The information 此前報道,有内部人士透露谷歌的研究團隊正在利用 YouTube 訓練 Gemini 模型,而競争對手 OpenAI 早已經悄悄地使用 YouTube 上的内容來訓練其人工智能模型。顯然,谷歌可以獲得更完整的内容數據。
前 YouTube 高管 Shishir Mehrotra 就曾表示,對谷歌來說,YouTube 視頻簡直就是一座數據金礦。
谷歌已經放出豪言,Gemini 将如何超越 GPT-4,我們拭目以待。可以肯定的是,科技領網域的颠覆式創新之路才剛剛起步,OpenAI 暫時領先,但追趕者從未停下奔跑的步伐。