大酷樂
  • 汽車
  • 理财
  • 軍事
  • 科技
  • 遊戲
  • 互聯網
  • 娛樂
  • 财經
  • 科學
  • 社會
  • 親子
  • 電影
  • 健康
  • 教育
  1. 首頁
  2. 互聯網

趙何娟:我們準備好面對GPT大模型的瓶頸期了嗎?

2024-09-12 简体 HK SG TW

今天小編分享的互聯網經驗:趙何娟:我們準備好面對GPT大模型的瓶頸期了嗎?,歡迎閱讀。

我最近幾個月都在忙着全球市場調研和钛媒體海外辦公室的籌建,所以發布視頻有一搭沒一搭,但沒想到我這樣任性的博主,也能收到很多用戶的催更和問詢了,比如很多人在問我 GPT-5 為何還沒發布啊,矽谷最近有爆發什麼新的創業應用方向嗎等等。

我能感受到大家很着急很焦慮,但我們現在需要更多的是耐心不是着急。幾個月前我就在一個公開演講裡預言,大家期望的今年作為大模型應用爆發元年可能不會來到,說爆發還為時尚早,只能算開始。

大模型這幾個月的發展驗證了我的說法。包括矽谷最近在技術圈也一直流傳一個說法那就是 GPT-5 的内部測試失敗了,今年已不大可能推出。因為基于 Transformer 的 GPT 類模型已經進入了擴展瓶頸,且除了聊天和一些比如編程、文本、設計、辦公等工作流輔助類應用,很難全面應用于市場,而這些 GPT-4o 已經足夠支撐。原有架構再更新短期内很難有質的突破。這些瓶頸包括模型自身架構擴展能力,也包括數據瓶頸,甚至也包括安全和倫理需求的應對瓶頸,還有因為應用局限帶來的市場需求本身的瓶頸。

而一貫更善于追随的中國大模型和應用創業者們又是否為此做好了變道的準備?

這個瓶頸期會有多長,還很難判斷,但無論是三個月、半年還是一年或更長,可能對于我們來說都會是比較難熬的一段時間。

好消息是,基于美國一些科技媒體的報道猜測,還有我從多方面了解的信息,OpenAI 可能正在考慮推出一個新的模型方向產品,不再局限于 Transformer 的架構,或被命名為 "Orion"(也有人說或被命名 GPT-NEXT),Orion 是獵戶座(Orion)的拉丁名稱,象征着力量、探險和發現,具有強烈的探索未知的神話意義,NASA 的獵戶座飛船(Orion spacecraft)也以此命名,用于未來載人深空探索任務。

如果最終真的以此代号命名,或許暗示了 OpenAI 将此作為 AI 真正新紀元的開始,而非此前的 GPT。但目前對于這一代号,OpenAI 官方是既沒有承認也沒有否認的狀态。Orion 模型也是 OpenAI 内部代号為 " 草莓 "(Strawberry)系統項目的一部分,有報道稱在内部演示草莓系統,Orion 模型的推理能力已經遠高于 GPT,幻覺極錯誤率卻遠低于 GPT。

根據多方面的信息,我總結了幾點 Orion 可能和 GPT 模型的不同,Orion 雖然仍可以被歸類為大語言模型(LLMs),但它可能在技術架構上與現有的 GPT 系列有顯著的不同。以下是一些可能的技術差異和演進方向:

1. 基礎架構的演進

新型架構:Orion 可能采用更新的模型架構,不再局限于 GPT 系列使用的 Transformer 架構。它可能引入更高效的模型組件或完全新的神經網絡設計,以提升模型的計算效率、推理能力和生成質量。

模塊化設計:Orion 可能采用更加模塊化的設計,使其更容易集成不同類型的數據源(例如文本、影像、音頻等),從而實現多模态處理能力。這與現有的 GPT 模型相比可能是一個重要的區别。

2. 多模态能力

跨模态學習:Orion 可能不僅僅是一個語言模型,而是一個能夠處理和生成多種數據形式的模型,例如影像、聲音和視頻。這種多模态能力可能通過融合不同類型的數據來增強模型的理解和生成能力,使其适用于更廣泛的應用場景。

聯合訓練:Orion 可能采用聯合訓練方法,讓模型在多個模态上同時學習,從而在理解上下文和生成内容時更加全面和準确。這可能是與傳統 GPT 模型的關鍵區别,後者主要專注于文本數據。

3. 安全性與可控性

增強的控制機制:在安全性和可控性方面,Orion 可能引入更多的内置控制機制,以避免生成有害或不适當的内容。這可能包括新的過濾算法、增強的上下文理解能力,以及更高層次的可解釋性功能。

動态調整能力:Orion 可能具備更強的動态調整能力,根據用戶的需求和反饋實時調整模型的輸出風格和内容,這是 GPT 系列目前在某些方面仍做不到的。

4. 優化計算與能源效率

計算效率:Orion 可能會采用新的技術來提升計算效率,例如稀疏激活、壓縮技術或其他形式的優化,以在保持模型性能的同時減少計算資源的消耗。這可能使得 Orion 比 GPT 模型在實際應用中更具成本效益。

能源效率:在能源消耗上,Orion 可能更加注重優化,考慮到環境影響和資源限制,這一點在未來的 AI 發展中會變得越來越重要。

5. 應用場景的擴展

行業定制化:Orion 可能更專注于行業定制化應用,提供針對不同行業需求的優化模型,而不僅僅是一個通用的大語言模型。這種定制化可能涉及更深入的行業知識整合和特定領網域的數據訓練。

互動性增強:Orion 可能在互動性上有顯著提升,能夠更好地理解用戶意圖和需求,提供更自然和智能的互動體驗。

總之,Orion 作為大語言模型的發展方向,可能會在架構、功能和應用場景上進行顯著的拓展和改進。

至于未來 Orion 和 GPT 會是什麼關系,是短期的應對瓶頸期的權宜之計,還是長期對 GPT 的替代,亦或是兩種模型路線各自更新的并存,可能都要有待于在 OpenAI 的發展中确定了,我們只能拭目以待。

(本文首發于钛媒體 App,作者趙何娟為钛媒體創始人 &CEO)

關注 " 趙何娟 ",更快了解全球經濟、科技新趨勢。

熱門排行
  • 王治郅:楊瀚森主要的問題是速度 他的速度跟不上現代籃球的節奏 王治郅:楊瀚森主要的問題是速度 他的速度跟 郟君昊 | 2025-05-05
  • 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 逼好萊塢等回美拍片 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 習又夏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 寸飛蘭 | 2025-05-05
  • 手機電池突破8000mAh?矽碳技術的回旋镖:「折壽」換容量 手機電池突破8000mAh?矽碳技術的回旋镖:「折 衛青柏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 繁綺文 | 2025-05-05
  • 任天堂對Genki提起Switch 2商标侵權訴訟,後者回應稱将嚴肅對待 任天堂對Genki提起Switch 2商标侵權訴訟,後 郜萌運 | 2025-05-05
  • 哪吒汽車APP和官網恢復正常 知情人士:之前斷網因流量欠費 哪吒汽車APP和官網恢復正常 知情人士:之前斷 袁曼雁 | 2025-05-05
  • 極越汽車 CEO 夏一平名下青島/義烏兩家公司被列入經營異常 極越汽車 CEO 夏一平名下青島/義烏兩家公司 集玲琳 | 2025-05-05
  • 全國經濟第一大省明确,推動組建農商聯合銀行 全國經濟第一大省明确,推動組建農商聯合銀行 佼昌翰 | 2025-05-05
  • 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩更專注進球&更像C羅 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩 甄正浩 | 2025-05-05
  • 高露現身上海虹橋機場 黑色外套點綴亮色愛心裝飾俏皮亮眼 高露現身上海虹橋機場 黑色外套點綴亮色愛 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:處理器更新為天玑9200+ 安卓最強芯 vivo X90S曝光:處理器更新為天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懶癌”發病率上升,定期體檢别忽視 “懶癌”發病率上升,定期體檢别忽視 幸聽楓 | 2023-05-02
  • 宋慧喬獲百想視後 韓素希發圖手動加愛心表情慶祝 宋慧喬獲百想視後 韓素希發圖手動加愛心表 賁芳蕤 | 2023-05-02
  • 曹操墓,裡面都有啥? 曹操墓,裡面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他們終于要HE! 十年了,他們終于要HE! 惠惠君 | 2023-05-07
  • 中央部署經濟工作,釋放5大信号 中央部署經濟工作,釋放5大信号 郜萌運 | 2023-05-02
  • 高德上線手機彎道會車預警功能 高德上線手機彎道會車預警功能 習又夏 | 2023-05-02
  • 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露面 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露 賁芳蕤 | 2023-05-02
  • 等比例長大的童星,李蘭迪算一個 等比例長大的童星,李蘭迪算一個 郟君昊 | 2023-05-02
  • 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 集玲琳 | 2023-05-02
  • 高端國產車:軍車血統,目前電動車越野的“天花板”? 高端國產車:軍車血統,目前電動車越野的“天花 謝飛揚 | 2023-05-02
  • 這些被抓來做實驗的流浪狗,最終拯救了無數糖尿病人 這些被抓來做實驗的流浪狗,最終拯救了無數糖 集玲琳 | 2023-05-02
  • 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15日 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 21家A股遊戲公司2022年收入651億 今年“遊戲+AI”能否逆風翻盤? 21家A股遊戲公司2022年收入651億 今年“遊 衛青柏 | 2023-05-04
  • 普京籤署總統令,批準對俄刑法典相關法條的修正案 普京籤署總統令,批準對俄刑法典相關法條的修 集玲琳 | 2023-05-02
  • 信用風險釋放趨緩,結構性風險需重點關注 ——2023年一季度債市信用風險回顧與下階段展望 信用風險釋放趨緩,結構性風險需重點關注 — 袁曼雁 | 2023-05-02
  • 中銀證券給予南京銀行增持評級 中銀證券給予南京銀行增持評級 袁曼雁 | 2023-05-03
  • 解除資格!停止一切合作 解除資格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 聯想小新mini主機上架 13代酷睿标壓處理器 3699起 聯想小新mini主機上架 13代酷睿标壓 習又夏 | 2023-05-05
  • 前董事長被免,天山生物全面進入“中植系”時代?股價曾在一月内暴漲超400% 前董事長被免,天山生物全面進入“中植系”時 惠惠君 | 2023-05-02
  • 瘋成這樣,怎麼還能被全網吹捧? 瘋成這樣,怎麼還能被全網吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收購美國第一共和銀行 摩根大通收購美國第一共和銀行 謝飛揚 | 2023-05-02
  • 台劇赢麻了,又來一部8.9 台劇赢麻了,又來一部8.9 衛青柏 | 2023-05-02
  • 事關農村土地承包和農民權益,《農村土地承包合同管理辦法》5月1日起施行 事關農村土地承包和農民權益,《農村土地承包 郟君昊 | 2023-05-02
  • 下降45分,上漲35分!34所自劃線院校復試分數線漲幅匯總 下降45分,上漲35分!34所自劃線院校復試分數線 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好這件事是關鍵 "三高"已盯上青少年,做好這件事是關鍵 習又夏 | 2023-05-05
  • 五一檔沒一個能打的 五一檔沒一個能打的 集玲琳 | 2023-05-05
  • 恐怖韓劇下神壇,這次膽小可入 恐怖韓劇下神壇,這次膽小可入 袁曼雁 | 2023-05-05
  • 這劇是不是用ChatGPT寫的呀? 這劇是不是用ChatGPT寫的呀? 惠惠君 | 2023-05-02
  • 200戶連夜疏散,原因讓人憤怒!“損失超一億”,官方通報 200戶連夜疏散,原因讓人憤怒!“損失超一億”, 袁曼雁 | 2023-05-03
  • 性騷擾慣犯,滾出娛樂圈 性騷擾慣犯,滾出娛樂圈 謝飛揚 | 2023-05-05
  • 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的生活》證實将停辦 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的 佼昌翰 | 2023-05-02
  • 一個《長月燼明》倒了,《狐妖》《長相思》《與鳳行》…在路上了 一個《長月燼明》倒了,《狐妖》《長相思》《 惠惠君 | 2023-05-02
  • 當年輕人開始不随份子錢 當年輕人開始不随份子錢 袁曼雁 | 2023-05-02
  • 張天愛假期曬“酷”存照 卷發披肩穿黑色吊帶裙大秀好身材 張天愛假期曬“酷”存照 卷發披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 畢滢用8年時間成功逼宮?曾被傳已婚生子的她,不容小觑 畢滢用8年時間成功逼宮?曾被傳已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們