今天小编分享的互联网经验:京东推出言犀大模型,从产业端切入大模型赛道,欢迎阅读。
作者 | 周愚
编辑 | 邓咏仪
在大模型领網域,京东想靠布局产业应用,打开一条道路。
36 氪获悉,7 月 13 日,2023 京东全球科技探索者大会暨京东云峰会上,京东言犀大模型正式推出。与通用大模型相比,该模型产业属性更强——除 70% 通用数据外,还融合了 30% 供应链原生数据。
为配套产业应用,京东还推出了一套大模型的完整工具链,包括言犀 AI 开发计算平台、向量数据库、混合多云作業系統云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等产品。
京东集团 CEO 许冉在大会上提出,大模型的价值 = 算法 × 算力 × 数据 × 产业厚度的平方。" 大模型真正实现自己的价值,一定是在产业应用中。" 这一理念贯穿了整场大会。
言犀 AI 开发计算平台和向量数据库,被京东比作大模型的 " 训练营 " 和 " 弹药库 "。
据悉,言犀 AI 开发计算平台沉淀了京东在零售、物流、健康、金融等行业的 Know-How,同时具备 100 多种训练和推理优化工具。
大会现场,京东演示了将通用大模型转化为健康产业大模型的操作。原本需要 10 余名科学家花费一周时间完成的工作,利用言犀 AI 开发计算平台,1-2 名算法人员在几分钟就能完成。平台模型加速工具优化后,还能节省 90% 的推理成本。
而京东的向量数据库自 2019 年开始研发,目前已能支撑百亿级高性能检索,延时降低到毫秒级,可用性达到 99.99%,已服务超过 100 家大中型企业用户。京东称,将向量数据库用于大模型预训练,推理成本可以降低 80%。
在算力方面,京东在重庆太阳岛建立了京东全国首个超算中心——天琴 α 集群,其推理速度较之前提升 6.2 倍,推理成本可降低约 90%。
同时,京东云的三个核心产品,此次也迎来更新:云舰,GPU/NPU 的资源成本降低 50%;云海,单集群每秒读写性能提升 5 倍至千万级,时延降低 50% 至百微秒级,使用成本降低 30%;京刚,虚拟化损耗降至 0,网络性能提升高达 4 倍,并支持 100Gb VPC 网络,云硬碟单实例性能突破百万 IOPS。
依托京东言犀大模型,京东还在大会上发布了两大服务平台,包括全新更新的优加 DaaS 和言犀智能服务平台,以及面向零售、金融、城市、健康、物流五大领網域的行业解决方案。目前,言犀智能服务已经应用于 12345 热线、银行数字员工、专家诊断场景等严肃场景。
截至目前,京东云已有供应链金融科技、产业协同、数据中台等 20 多个数字化场景,服务了 100 座城市、2500 余家大型企业、944 家金融机构和超 250 万家中小微企业。
来源:企业供图
事实上,京东从很早就开始布局大模型。2021 年,京东推出十亿级模型 K-PLUG,2022 年推出了百亿级模型 Vega,本次大会则展示了千亿级模型。
对于大模型的应用实践,京东还提出了明确的 " 三步走 " 规划。目前,京东云已经基于内部实践构建了通用大模型。京东预计在 2024 年初,将大模型能力向外部严肃商业场景开放。