今天小编分享的互联网经验:京东言犀大模型来了!率先布局零售物流等五大产业应用,欢迎阅读。
来源:AI 星球,文 / 王非
京东大模型,揭开了面纱!
今年 2 月,京东就透露过正在筹备产业版大模型。
短短 5 个月后,京东于 7 月 13 日正式推出言犀大模型,并宣布率先布局零售、金融、城市、健康、物流五大领網域。
作为较早布局大模型的企业之一,京东于 2021 年就推出了十亿级模型 K-PLUG,并在 2022 年推出百亿级模型 Vega。
此次展示的言犀,正是京东按照既定计划推出的千亿级模型。
京东集团 CEO 许冉表示:" 京东的大模型技术演进,遵循了京东的技术追求:成本、效率、体验、可信、普惠、突破。成本、效率和体验是从京东的经营理念传承而来,也是零售的第一性原理。可信、普惠和突破则是技术服务于产业和社会的承诺。"
京东集团 CEO 许冉
做最懂产业的大模型
" 大模型真正实现自己的价值,一定是在产业应用中!"
大模型的价值 = 算法 × 算力 × 数据 × 产业厚度 ²,许冉认为," 前三个指标固然重要,但技术在产业场景落地应用,创造实际价值才是关键。当产业效率和产业的边界拓展得到质的提升以后,大模型才有了更重要的实际价值和意义,这将不亚于又一次工业革命。"
凭借在零售、物流、科技、健康、工业、产发等产业的丰富布局,京东每年得以积累下数百亿条优质互動数据。而训练言犀大模型的数据库,正是由 70% 通用数据和 30% 供应链原生数据组成。
深厚的产业数据积累,以及千行百业 Know-How,也使得京东训练出的大模型天然具备 " 产业基因 ",并成为其核心优势。
此外,言犀大模型还具备行业泛化能力,并能够保障客户在云上云下安全使用。
京东集团技术委员会主席、京东云事业部总裁曹鹏表示," 数智供应链训练了产业大模型,而大模型则依托供应链深入产业 "。
京东集团技术委员会主席、京东云事业部总裁曹鹏
对于大模型的应用实践,京东也有明确的 " 三步走 " 规划:
目前,京东云已经基于内部实践构建了通用大模型;
到今年年底这段时间,京东将经由高复杂场景大规模锤炼,迭代出扎实的产业服务;
预计在 2024 年初,会将大模型能力向外部严肃商业场景开放。
构建大模型完整工具链
为夯实产业应用,京东推出了一套大模型的完整工具链,包括支撑大模型研发的基础设施——言犀 AI 开发计算平台、向量数据库,以及全新更新的基础设施云舰、云海和京刚。
其中,京东的言犀 AI 开发计算平台,能够为客户的大模型开发和行业应用开发,提供定制化解决方案。它既具备行业知识库,沉淀了京东自己的零售、物流、健康、金融等行业 Know-How,又具备 100 多种训练和推理优化工具,能将通用模型迅速转化为专业模型。
此前,客户想要将通用大模型转化为健康产业大模型,整个流程从数据准备、模型训练到模型部署,需要 10 余名科学家花费一周时间。但利用言犀 AI 开发计算平台,只需要 1-2 名算法人员,在数分钟就能完成。通过平台模型加速工具的优化,还能节省 90% 的推理成本。
如果说言犀 AI 开发计算平台是大模型的 " 训练营 ",那么,向量数据库则是大模型的 " 弹药库 ",是大模型使用数据的桥梁。
据介绍,京东从 2019 年开始研发向量数据库,历经电商大促场景磨练,向量数据库 Vearch 已经能支撑百亿级高性能检索,延时降低到毫秒级,可用性达到 99.99%,已经服务超过 100 家大中型企业用户。京东将向量数据库用于大模型预训练,将推理成本降低了 80%。
此外,针对大模型所需的计算资源,京东全国首个超算中心——天琴 α 集群也已在重庆太阳岛日夜不停运转:推理速度较过去提升 6.2 倍,推理成本节约 90%。
同时,京东云的三个核心产品也迎来全新更新:
混合多云作業系統云舰,将 GPU/NPU 的资源成本降低 50%,并提供行业最高的业务连续性承诺。
高性能存储平台云海,将单集群每秒读写性能提升 5 倍,达到千万级;时延降低 50%,达到百微秒级;使用成本则降低 30%。
软硬一体的虚拟化引擎京刚,将虚拟化解除安裝到智能网卡中,虚拟化损耗降至 0,网络性能提升高达 4 倍,并支持 100Gb VPC 网络,云硬碟单实例性能突破百万 IOPS。
率先布局零售等五大领網域
依托京东言犀大模型,以及在产业和供应链侧的优势,京东还发布了两大服务平台,包括全新更新的优加 DaaS 和言犀智能服务平台,以及面向零售、金融、城市、健康、物流五大领網域的行业解决方案。
据介绍,新更新的优加 DaaS 具备三个优势:更多维,既包括企业自身的数据,也能实现企业和京东及生态数据的安全互通和融合;更易用,大幅提高互動体验、降低使用门槛,用简单描述即可生成答案;更简单,串联数据开发平台、数据服务平台、数据可视化平台等的原子能力,将原本复杂系统间的操作简化。
而言犀智能服务更新后,也具备了更丰富的互動渠道,覆盖从智能客服到直播间,从移动终端到线下智能端;更生动的互動效果,支持语音、视频、文字等方式;更专业的互動内容,生成的专业领網域互動内容,更加可控、可用。目前,它已经服务于 12345 热线、银行数字员工、专家诊断场景等严肃场景。
京东集团副总裁、京东科技产品与解决方案总裁高礼强表示。" 智能化优先在数字化领先的行业发生 ",在零售、金融、城市、健康、物流五大场景,京东都发布了全新的智能化解决方案,借助大模型能力实现服务能力的更新。
其中,在零售领網域,京东展示了金融领網域 AI 营销运营平台。使用者通过简单的对话,就能一站式生成营销活动,覆盖运营策略制定、营销任务调度编排、搭建活动页面、批量生成营销文案和素材、数字化投放等方面。过去这套流程需要产品、研发、算法、设计、分析师 5 类职能人员,如今减少到 1 人;过去流程需要 2000 次人机互動,也减少到少于 50 次。在大模型能力的加持下,营销方案的生产效率有了百倍提高。
在金融领網域,以财富场景为例,目前京东机构基金代销系统中已经上线言犀有方模块,给机构客户提供更便捷的基金筛选和投研分析功能。
在健康领網域,京东健康发布了京医千询大模型,能快速完成在医疗健康领網域各个场景的迁移和学习,从而实现产品和解决方案的全面 AI 化部署,能为远程医疗服务提供坚实的技术底座。
京东集团副总裁、京东健康技术产品部总经理李欣
在物流领網域,京东物流发布了一站式数智化供应链数据管理平台京慧 3.0,在大模型的加持下,其销量预测、库存、供应及补货计划方面更具表现力,其互動式供应链控制塔能够帮助用户快速定位并解决供应链问题,实现降本增效。
此外,京东还宣布携手零售和金融行业伙伴,在零售场景探索供应链优化、顾客体验、营销降本增效等方面,在金融场景探索金融客服、智能投顾、产品营销等方面,共建零售和金融行业的大模型创新应用。
正如许冉所言:" 京东发展大模型的旅程,注定会与产业伙伴携手同行。京东会与产业伙伴紧密合作,通过技术创新持续为产业高质量发展贡献力量。"