今天小编分享的科学经验:曝GPT-4.5本周空降!1T激活参数,120T训练数据,会吐出阶段性思考成果然后继续思考,欢迎阅读。
嚯,万众期待的GPT-4.5,本周就要空降发布?!
部分用户的 ChatGPT 安卓版本(1.2025.056 测试版)上,已经出现了 "GPT-4.5 研究预览(GPT-4.5 research preview)" 的字样。
下面紧跟着一段注释:
Pro 订阅用户现在可以访问我们最新、最大的模型。
网友们还贴出了更详细的截图。
而网络上,更多关于 GPT-4.5 的消息被各方人士曝光,几乎都能靠这些碎片爆料完成一整块拼图了(真诚脸 .jpg)。
咱们来看——
OpenAI 最后一个非推理模型的爆料速览
两周前,奥特曼本人曾大张旗鼓在自己的推特上剧透,"GPT-4.5 将在未来几周内发布 "。
也证实了 GPT-4.5 是此前多次被曝光的 Orion(猎户座)—— Orion 从去年 8 月浮出水面,它的定位是 OpenAI 新旗舰,也就是 GPT-4 的下一代。
同时奥特曼明确表示,GPT-4.5 将会是 OpenAI 最后一个非推理模型。
在发布 GPT-4.5 后,OpenAI 将会把 GPT 系列和 o 系列模型合并为一个单一的 AI。
So,就在 " 未来几周内 " 的今天,推特上,来自 The information 的 Stephanie Palazzolo 感慨了下自己今天忙碌的晨会都说了些啥。
第一条就是:"OpenAI 领导者告诉员工,GPT-4.5 将于本周推出。"
本周?今天周四了哎!
那……
而且 GPT-4.5 即将在本周空降的消息并不只是一家之言,网络上,陆陆续续有人站出来说出了自己来源神秘的已知信息。
量子位筛选整理,与大家一起先睹为快。
GPT-4.5 基本资料
目前网络上曝光的 GPT-4.5 是一个参数爆表的庞然大物。
具体来说,它是一个 1T 激活参数的 Transformer MoE 模型,在 120T tokens 数据上训练。
友情提示,GPT-4 是 1.8T 的总参数。
它的上下文視窗长度为 256K,自带知识截至 2024 年 6 月。
此外,GPT-4.5 还是一个具有人类视觉水平的 Agent。
不是推理模型,但……
尽管奥特曼已经说过,GPT-4.5 不是一个推理模型。
但有人发现,它吐输出的过程非常与众不同。
具体来说,GPT-4.5 是边思考边吐结果的,而不是一次思考过后只吐一次结果。
下面这张图是爆料人提供的 GPT-4.5 回复结果,蓝色框选部分是它的思考,思考一会儿后它会吐出阶段性输出,然后继续思考一会儿,然后再吐出阶段性输出……
尽管不是长 CoT,但这看起来还是和奥特曼预告的 " 非推理模型 " 有些出入。
具体怎么样,只有等真 · 发布过后大家才知道啦~
不过有网友猜测,这一切都基于 GPT-4.5 已经对整个互联网进行了 RAG 处理。
能画动画 SVG 来会 " 唱歌 "
神通广大的网友,爆出来的料都是列文虎克级别的——
连 GPT-4.5 新增功能及其效果都一并发出来给吃瓜群众看。
主要新增能力有二。
1)GPT-4.5,它可以制作动画 SVG 檔案。
和它提提修改意见,大概交流 3-4 轮过后,你将得到一个会翻白眼的蒙娜丽莎(?):
2)GPT-4.5 可以零样本制作音乐。
但请注意,它很有原则:拒绝制作受版权保护的歌曲。
来听一段来自不知名的贝多芬选手的变奏,由 GPT-4.5 生成:
讲道理,OpenAI 上一次发音乐模型还是上一次,那是 5 年的事情了。
Jukebox,2020 年 4 月 30 日发布,是一个能够在原始音频網域中生成音乐的模型,通过提供音乐流派、艺术家甚至歌词的信息,Jukebox 可以生成完整的音乐作品,包括人声部分。
如果传闻为真,那 GPT-4.5 的多模态能力再加 1 分。
速度更快,且很便宜
相关爆料人仅有这短短一句话,但非常期待 1T 激活参数的 GPT-4.5,到底能有多便宜……
任务表现好坏参半
虽然 GPT-4.5 应该很快和大家见面,不过!
大家不要过于兴奋。
一位测试过该模型的人士透露,GPT-4.5 在某些任务上的表现好坏参半。
譬如,Anthropic 前天发布的混合推理模型 Claude 3.7 Sonnet,就在某些基准测试中击败了它。
根据 Claude 系列素来的强项,很难不怀疑至少包含编程领網域……
One More Thing
最后最后,大家一定要注意,根据现有信息,GPT-4.5 首批似乎只针对 Pro 用户开放。
就是一个月 200 美元那档。
这就搞得很多网友都有些不爽,毕竟 OpenAI 现在四面受敌,至少也应该让 Plus 用户也抢先体验上吧??
但有网友发出这样的推论:
" 奥特曼嘛,大模型届的老营销高手了。他也许先放出风声,说首批体验 GPT-4.5 的只有 Pro 用户,然后后面告诉大家,我们也开放给 Plus 用户,这样大家就会对他好感度 up up~"
咦,这个道理好像在哪里听过,就是想开窗先告诉大家要拆房顶(手动狗头)。
但在正式发布之前,一切都是未知数。
还是那句话," 本周发布 ",且今天已经是周四,大家不用着急,再等一会儿吧~
参考资料:
[ 1 ] https://x.com/steph_palazzolo/status/1894785791018332505
[ 2 ] https://x.com/WesRothMoney/status/1894802107812737153
[ 3 ] https://x.com/ai_for_success/status/1894827569989734746
[ 4 ] https://x.com/Zzullerr/status/1894834009655443505
[ 5 ] https://x.com/literallydenis/status/1894843775769551228
[ 6 ] https://x.com/techikansh/status/1894697272966820028
[ 7 ] https://x.com/taker_of_whizz/status/1894775460602540147
[ 8 ] https://x.com/literallydenis/status/1894851640940761169
[ 9 ] https://x.com/imjustnewatai/status/1894547958240084148