今天小編分享的互聯網經驗:報告:2024年中國将出現比肩GPT-4的大模型,歡迎閲讀。
7 月 7 日,2023 年世界人工智能大會上,啓明創投聯合未盡研究發布了創投行業首份生成式 AI 報告。基于生成式 AI 的創新應用、大模型技術前沿、監管、安全、政策、人才等研究,報告對未來一至三年的大語言模型、多模态模型和商業競争态勢,作出了十點前瞻。
其中,大語言模型方面:
2024 年中國将出現比肩 GPT-4 的多語言通用大模型;
超長上下文 ( Long Context ) 将引領下 一次 LLM 技術突破;
在出現更有前景的大語言模型之前,為實現垂直領網域更好的效果,以下三種方式将共存: 在不改變數據分布的情況下,利用更多通用數據 進行通用大模型預訓練,不特别引入行業數據;利用行業專屬數據微調 ( Fine-Tuning ) 通用大模型;利用行業數據占比更高的數據集進行垂直模型預訓練;
多模态模型方面:
當前 CLIP + Diffusion 的文生圖模型是過渡态,未來 2 年内将出現一體化的模型結構;
下一代 Text-to-Image 模型将具備更強的可控性,它将結合底層模型能力和前端控制方式,對模型的設計将注重與控制方式的結合;
2025 之前,視頻和 3D 等模态将迎來裏程碑式的模型,大幅提高生成效果;
以 PALM-E 為代表的具身智能 ( Embodied AI ) 展現出在機器人的感知、 理解和決策等方向上的巨大潛力, 但當前訓練和可靠性存在較大挑戰;
短期内 Transformer 正成為多個模态的主流網絡結構, 但壓縮整個數字世界的通用方法尚未出現,Transformer 并不是人工智能技術的終點;
商業機會方面:
3 年内,颠覆式的 AI 應用的核心驅動力來自于底層模型的創新,兩者無法解耦,模型的作用将大于產品設計的作用;
當前生成式 AI 市場處于技術主導的早期階段, 存在千億美元市值的平台性企業的機會。