今天小編分享的互聯網經驗:京東推出言犀大模型,從產業端切入大模型賽道,歡迎閱讀。
作者 | 周愚
編輯 | 鄧詠儀
在大模型領網域,京東想靠布局產業應用,打開一條道路。
36 氪獲悉,7 月 13 日,2023 京東全球科技探索者大會暨京東雲峰會上,京東言犀大模型正式推出。與通用大模型相比,該模型產業屬性更強——除 70% 通用數據外,還融合了 30% 供應鏈原生數據。
為配套產業應用,京東還推出了一套大模型的完整工具鏈,包括言犀 AI 開發計算平台、向量數據庫、混合多雲作業系統雲艦、高性能存儲平台雲海、軟硬一體虛拟化引擎京剛等產品。
京東集團 CEO 許冉在大會上提出,大模型的價值 = 算法 × 算力 × 數據 × 產業厚度的平方。" 大模型真正實現自己的價值,一定是在產業應用中。" 這一理念貫穿了整場大會。
言犀 AI 開發計算平台和向量數據庫,被京東比作大模型的 " 訓練營 " 和 " 彈藥庫 "。
據悉,言犀 AI 開發計算平台沉澱了京東在零售、物流、健康、金融等行業的 Know-How,同時具備 100 多種訓練和推理優化工具。
大會現場,京東演示了将通用大模型轉化為健康產業大模型的操作。原本需要 10 餘名科學家花費一周時間完成的工作,利用言犀 AI 開發計算平台,1-2 名算法人員在幾分鍾就能完成。平台模型加速工具優化後,還能節省 90% 的推理成本。
而京東的向量數據庫自 2019 年開始研發,目前已能支撐百億級高性能檢索,延時降低到毫秒級,可用性達到 99.99%,已服務超過 100 家大中型企業用戶。京東稱,将向量數據庫用于大模型預訓練,推理成本可以降低 80%。
在算力方面,京東在重慶太陽島建立了京東全國首個超算中心——天琴 α 集群,其推理速度較之前提升 6.2 倍,推理成本可降低約 90%。
同時,京東雲的三個核心產品,此次也迎來更新:雲艦,GPU/NPU 的資源成本降低 50%;雲海,單集群每秒讀寫性能提升 5 倍至千萬級,時延降低 50% 至百微秒級,使用成本降低 30%;京剛,虛拟化損耗降至 0,網絡性能提升高達 4 倍,并支持 100Gb VPC 網絡,雲硬碟單實例性能突破百萬 IOPS。
依托京東言犀大模型,京東還在大會上發布了兩大服務平台,包括全新更新的優加 DaaS 和言犀智能服務平台,以及面向零售、金融、城市、健康、物流五大領網域的行業解決方案。目前,言犀智能服務已經應用于 12345 熱線、銀行數字員工、專家診斷場景等嚴肅場景。
截至目前,京東雲已有供應鏈金融科技、產業協同、數據中台等 20 多個數字化場景,服務了 100 座城市、2500 餘家大型企業、944 家金融機構和超 250 萬家中小微企業。
來源:企業供圖
事實上,京東從很早就開始布局大模型。2021 年,京東推出十億級模型 K-PLUG,2022 年推出了百億級模型 Vega,本次大會則展示了千億級模型。
對于大模型的應用實踐,京東還提出了明确的 " 三步走 " 規劃。目前,京東雲已經基于内部實踐構建了通用大模型。京東預計在 2024 年初,将大模型能力向外部嚴肅商業場景開放。