今天小編分享的互聯網經驗:京東言犀大模型來了!率先布局零售物流等五大產業應用,歡迎閱讀。
來源:AI 星球,文 / 王非
京東大模型,揭開了面紗!
今年 2 月,京東就透露過正在籌備產業版大模型。
短短 5 個月後,京東于 7 月 13 日正式推出言犀大模型,并宣布率先布局零售、金融、城市、健康、物流五大領網域。
作為較早布局大模型的企業之一,京東于 2021 年就推出了十億級模型 K-PLUG,并在 2022 年推出百億級模型 Vega。
此次展示的言犀,正是京東按照既定計劃推出的千億級模型。
京東集團 CEO 許冉表示:" 京東的大模型技術演進,遵循了京東的技術追求:成本、效率、體驗、可信、普惠、突破。成本、效率和體驗是從京東的經營理念傳承而來,也是零售的第一性原理。可信、普惠和突破則是技術服務于產業和社會的承諾。"
京東集團 CEO 許冉
做最懂產業的大模型
" 大模型真正實現自己的價值,一定是在產業應用中!"
大模型的價值 = 算法 × 算力 × 數據 × 產業厚度 ²,許冉認為," 前三個指标固然重要,但技術在產業場景落地應用,創造實際價值才是關鍵。當產業效率和產業的邊界拓展得到質的提升以後,大模型才有了更重要的實際價值和意義,這将不亞于又一次工業革命。"
憑借在零售、物流、科技、健康、工業、產發等產業的豐富布局,京東每年得以積累下數百億條優質互動數據。而訓練言犀大模型的數據庫,正是由 70% 通用數據和 30% 供應鏈原生數據組成。
深厚的產業數據積累,以及千行百業 Know-How,也使得京東訓練出的大模型天然具備 " 產業基因 ",并成為其核心優勢。
此外,言犀大模型還具備行業泛化能力,并能夠保障客戶在雲上雲下安全使用。
京東集團技術委員會主席、京東雲事業部總裁曹鵬表示," 數智供應鏈訓練了產業大模型,而大模型則依托供應鏈深入產業 "。
京東集團技術委員會主席、京東雲事業部總裁曹鵬
對于大模型的應用實踐,京東也有明确的 " 三步走 " 規劃:
目前,京東雲已經基于内部實踐構建了通用大模型;
到今年年底這段時間,京東将經由高復雜場景大規模錘煉,迭代出扎實的產業服務;
預計在 2024 年初,會将大模型能力向外部嚴肅商業場景開放。
構建大模型完整工具鏈
為夯實產業應用,京東推出了一套大模型的完整工具鏈,包括支撐大模型研發的基礎設施——言犀 AI 開發計算平台、向量數據庫,以及全新更新的基礎設施雲艦、雲海和京剛。
其中,京東的言犀 AI 開發計算平台,能夠為客戶的大模型開發和行業應用開發,提供定制化解決方案。它既具備行業知識庫,沉澱了京東自己的零售、物流、健康、金融等行業 Know-How,又具備 100 多種訓練和推理優化工具,能将通用模型迅速轉化為專業模型。
此前,客戶想要将通用大模型轉化為健康產業大模型,整個流程從數據準備、模型訓練到模型部署,需要 10 餘名科學家花費一周時間。但利用言犀 AI 開發計算平台,只需要 1-2 名算法人員,在數分鍾就能完成。通過平台模型加速工具的優化,還能節省 90% 的推理成本。
如果說言犀 AI 開發計算平台是大模型的 " 訓練營 ",那麼,向量數據庫則是大模型的 " 彈藥庫 ",是大模型使用數據的橋梁。
據介紹,京東從 2019 年開始研發向量數據庫,歷經電商大促場景磨練,向量數據庫 Vearch 已經能支撐百億級高性能檢索,延時降低到毫秒級,可用性達到 99.99%,已經服務超過 100 家大中型企業用戶。京東将向量數據庫用于大模型預訓練,将推理成本降低了 80%。
此外,針對大模型所需的計算資源,京東全國首個超算中心——天琴 α 集群也已在重慶太陽島日夜不停運轉:推理速度較過去提升 6.2 倍,推理成本節約 90%。
同時,京東雲的三個核心產品也迎來全新更新:
混合多雲作業系統雲艦,将 GPU/NPU 的資源成本降低 50%,并提供行業最高的業務連續性承諾。
高性能存儲平台雲海,将單集群每秒讀寫性能提升 5 倍,達到千萬級;時延降低 50%,達到百微秒級;使用成本則降低 30%。
軟硬一體的虛拟化引擎京剛,将虛拟化解除安裝到智能網卡中,虛拟化損耗降至 0,網絡性能提升高達 4 倍,并支持 100Gb VPC 網絡,雲硬碟單實例性能突破百萬 IOPS。
率先布局零售等五大領網域
依托京東言犀大模型,以及在產業和供應鏈側的優勢,京東還發布了兩大服務平台,包括全新更新的優加 DaaS 和言犀智能服務平台,以及面向零售、金融、城市、健康、物流五大領網域的行業解決方案。
據介紹,新更新的優加 DaaS 具備三個優勢:更多維,既包括企業自身的數據,也能實現企業和京東及生态數據的安全互通和融合;更易用,大幅提高互動體驗、降低使用門檻,用簡單描述即可生成答案;更簡單,串聯數據開發平台、數據服務平台、數據可視化平台等的原子能力,将原本復雜系統間的操作簡化。
而言犀智能服務更新後,也具備了更豐富的互動渠道,覆蓋從智能客服到直播間,從移動終端到線下智能端;更生動的互動效果,支持語音、視頻、文字等方式;更專業的互動内容,生成的專業領網域互動内容,更加可控、可用。目前,它已經服務于 12345 熱線、銀行數字員工、專家診斷場景等嚴肅場景。
京東集團副總裁、京東科技產品與解決方案總裁高禮強表示。" 智能化優先在數字化領先的行業發生 ",在零售、金融、城市、健康、物流五大場景,京東都發布了全新的智能化解決方案,借助大模型能力實現服務能力的更新。
其中,在零售領網域,京東展示了金融領網域 AI 營銷運營平台。使用者通過簡單的對話,就能一站式生成營銷活動,覆蓋運營策略制定、營銷任務調度編排、搭建活動頁面、批量生成營銷文案和素材、數字化投放等方面。過去這套流程需要產品、研發、算法、設計、分析師 5 類職能人員,如今減少到 1 人;過去流程需要 2000 次人機互動,也減少到少于 50 次。在大模型能力的加持下,營銷方案的生產效率有了百倍提高。
在金融領網域,以财富場景為例,目前京東機構基金代銷系統中已經上線言犀有方模塊,給機構客戶提供更便捷的基金篩選和投研分析功能。
在健康領網域,京東健康發布了京醫千詢大模型,能快速完成在醫療健康領網域各個場景的遷移和學習,從而實現產品和解決方案的全面 AI 化部署,能為遠程醫療服務提供堅實的技術底座。
京東集團副總裁、京東健康技術產品部總經理李欣
在物流領網域,京東物流發布了一站式數智化供應鏈數據管理平台京慧 3.0,在大模型的加持下,其銷量預測、庫存、供應及補貨計劃方面更具表現力,其互動式供應鏈控制塔能夠幫助用戶快速定位并解決供應鏈問題,實現降本增效。
此外,京東還宣布攜手零售和金融行業夥伴,在零售場景探索供應鏈優化、顧客體驗、營銷降本增效等方面,在金融場景探索金融客服、智能投顧、產品營銷等方面,共建零售和金融行業的大模型創新應用。
正如許冉所言:" 京東發展大模型的旅程,注定會與產業夥伴攜手同行。京東會與產業夥伴緊密合作,通過技術創新持續為產業高質量發展貢獻力量。"