今天小編分享的科學經驗:曝GPT-4.5本周空降!1T激活參數,120T訓練數據,會吐出階段性思考成果然後繼續思考,歡迎閱讀。
嚯,萬眾期待的GPT-4.5,本周就要空降發布?!
部分用戶的 ChatGPT 安卓版本(1.2025.056 測試版)上,已經出現了 "GPT-4.5 研究預覽(GPT-4.5 research preview)" 的字樣。
下面緊跟着一段注釋:
Pro 訂閱用戶現在可以訪問我們最新、最大的模型。
網友們還貼出了更詳細的截圖。
而網絡上,更多關于 GPT-4.5 的消息被各方人士曝光,幾乎都能靠這些碎片爆料完成一整塊拼圖了(真誠臉 .jpg)。
咱們來看——
OpenAI 最後一個非推理模型的爆料速覽
兩周前,奧特曼本人曾大張旗鼓在自己的推特上劇透,"GPT-4.5 将在未來幾周内發布 "。
也證實了 GPT-4.5 是此前多次被曝光的 Orion(獵戶座)—— Orion 從去年 8 月浮出水面,它的定位是 OpenAI 新旗艦,也就是 GPT-4 的下一代。
同時奧特曼明确表示,GPT-4.5 将會是 OpenAI 最後一個非推理模型。
在發布 GPT-4.5 後,OpenAI 将會把 GPT 系列和 o 系列模型合并為一個單一的 AI。
So,就在 " 未來幾周内 " 的今天,推特上,來自 The information 的 Stephanie Palazzolo 感慨了下自己今天忙碌的晨會都說了些啥。
第一條就是:"OpenAI 領導者告訴員工,GPT-4.5 将于本周推出。"
本周?今天周四了哎!
那……
而且 GPT-4.5 即将在本周空降的消息并不只是一家之言,網絡上,陸陸續續有人站出來說出了自己來源神秘的已知信息。
量子位篩選整理,與大家一起先睹為快。
GPT-4.5 基本資料
目前網絡上曝光的 GPT-4.5 是一個參數爆表的龐然大物。
具體來說,它是一個 1T 激活參數的 Transformer MoE 模型,在 120T tokens 數據上訓練。
友情提示,GPT-4 是 1.8T 的總參數。
它的上下文視窗長度為 256K,自帶知識截至 2024 年 6 月。
此外,GPT-4.5 還是一個具有人類視覺水平的 Agent。
不是推理模型,但……
盡管奧特曼已經說過,GPT-4.5 不是一個推理模型。
但有人發現,它吐輸出的過程非常與眾不同。
具體來說,GPT-4.5 是邊思考邊吐結果的,而不是一次思考過後只吐一次結果。
下面這張圖是爆料人提供的 GPT-4.5 回復結果,藍色框選部分是它的思考,思考一會兒後它會吐出階段性輸出,然後繼續思考一會兒,然後再吐出階段性輸出……
盡管不是長 CoT,但這看起來還是和奧特曼預告的 " 非推理模型 " 有些出入。
具體怎麼樣,只有等真 · 發布過後大家才知道啦~
不過有網友猜測,這一切都基于 GPT-4.5 已經對整個互聯網進行了 RAG 處理。
能畫動畫 SVG 來會 " 唱歌 "
神通廣大的網友,爆出來的料都是列文虎克級别的——
連 GPT-4.5 新增功能及其效果都一并發出來給吃瓜群眾看。
主要新增能力有二。
1)GPT-4.5,它可以制作動畫 SVG 檔案。
和它提提修改意見,大概交流 3-4 輪過後,你将得到一個會翻白眼的蒙娜麗莎(?):
2)GPT-4.5 可以零樣本制作音樂。
但請注意,它很有原則:拒絕制作受版權保護的歌曲。
來聽一段來自不知名的貝多芬選手的變奏,由 GPT-4.5 生成:
講道理,OpenAI 上一次發音樂模型還是上一次,那是 5 年的事情了。
Jukebox,2020 年 4 月 30 日發布,是一個能夠在原始音頻網域中生成音樂的模型,通過提供音樂流派、藝術家甚至歌詞的信息,Jukebox 可以生成完整的音樂作品,包括人聲部分。
如果傳聞為真,那 GPT-4.5 的多模态能力再加 1 分。
速度更快,且很便宜
相關爆料人僅有這短短一句話,但非常期待 1T 激活參數的 GPT-4.5,到底能有多便宜……
任務表現好壞參半
雖然 GPT-4.5 應該很快和大家見面,不過!
大家不要過于興奮。
一位測試過該模型的人士透露,GPT-4.5 在某些任務上的表現好壞參半。
譬如,Anthropic 前天發布的混合推理模型 Claude 3.7 Sonnet,就在某些基準測試中擊敗了它。
根據 Claude 系列素來的強項,很難不懷疑至少包含編程領網域……
One More Thing
最後最後,大家一定要注意,根據現有信息,GPT-4.5 首批似乎只針對 Pro 用戶開放。
就是一個月 200 美元那檔。
這就搞得很多網友都有些不爽,畢竟 OpenAI 現在四面受敵,至少也應該讓 Plus 用戶也搶先體驗上吧??
但有網友發出這樣的推論:
" 奧特曼嘛,大模型屆的老營銷高手了。他也許先放出風聲,說首批體驗 GPT-4.5 的只有 Pro 用戶,然後後面告訴大家,我們也開放給 Plus 用戶,這樣大家就會對他好感度 up up~"
咦,這個道理好像在哪裡聽過,就是想開窗先告訴大家要拆房頂(手動狗頭)。
但在正式發布之前,一切都是未知數。
還是那句話," 本周發布 ",且今天已經是周四,大家不用着急,再等一會兒吧~
參考資料:
[ 1 ] https://x.com/steph_palazzolo/status/1894785791018332505
[ 2 ] https://x.com/WesRothMoney/status/1894802107812737153
[ 3 ] https://x.com/ai_for_success/status/1894827569989734746
[ 4 ] https://x.com/Zzullerr/status/1894834009655443505
[ 5 ] https://x.com/literallydenis/status/1894843775769551228
[ 6 ] https://x.com/techikansh/status/1894697272966820028
[ 7 ] https://x.com/taker_of_whizz/status/1894775460602540147
[ 8 ] https://x.com/literallydenis/status/1894851640940761169
[ 9 ] https://x.com/imjustnewatai/status/1894547958240084148