今天小编分享的科学经验:千行百业用AI大模型,为什么火山引擎是聚处?,欢迎阅读。
" 角儿是座儿叫出来的 ",这句话不仅适合相声艺术,也很符合 AI 大模型商业化的现状。
今年以来," 大模型落地 " 成为 AI 和云产业的高频词。避免 " 叫好不叫座 ",让 AI 大模型更快地融入行业场景之中,被各行各业真正用起来,是当务之急。
行业用户多、落地案例丰富的大模型及 AI 服务生态,才算完成从实验室到商业化的闭环,才能在市场竞争中站稳脚跟。
最近恰逢 2024 火山引擎 AI 创新巡展,来到了天津站,分享豆包大模型的最新进展,并携手南开大学发布教育行业大模型应用开发平台。豆包大模型成功走进 " 象牙塔 ",打造了 "AI+ 教育 " 的落地标杆。
另外值得一提的是一组最新数据,截至 7 月,豆包大模型平均每家企业客户日均 Tokens 使用量,较 5 月 15 日模型发布时期增长了 22 倍。在零售、汽车、智能终端等行业,都携手企业用户,落地了不少 AI 实践。
火山引擎,让 AI 大模型越来越 " 叫座 ",在行业智能化中扮演着越来越重要的角色。
传统相声曲艺界有句话,叫 " 北京是出处,天津是聚处 "。天津并非相声发源地,却将相声艺术发扬光大。有人说,因为天津观众的欣赏眼光高,接受住天津观众的考验,才算在相声界站稳脚跟。
我们也不妨就从南开大学的 "AI+ 教育 " 实践开始,看看火山引擎到底经受了哪些考验,才最终在行业站稳了脚跟。
要说哪些行业对 AI 技术和服务的要求较高,教育行业一定排在前列。
简单来说,教育行业的用户数字素养普遍比较高,对数字服务和体验的要求也更高。而且,由于教学信息化、数字化变革早,科研任务的数据量大,高校数字基础设施建设也相对成熟,对 AI 的需求更多在于如何提升教学 / 管理 / 服务水平。
所以,AI 大模型要融入教育场景,带来用户体验和管理效率上的实际提升,收获认可,并不是一件容易的事。
以南开大学为例,通过深入的调研和测试,最终选择与火山引擎合作,为师生的学习、工作和生活提供更加便捷、高效的服务。
此次 "AI+ 教育 " 实践,体现出三个特点:
1. 融合程度深。南开大学利用火山引擎的 AI 技术,改革教学、科研及管理体系,打造国内首个全面融合大模型能力的智慧校园,在全国范围内属于先例,具有标杆意义。
2. 落地范围广。目前,双方已经在 "AI 技术设施 " 与 "AI 管理服务 " 两个场景,落地一批 "AI+ 教育 " 场景化应用,如教学场景中的 " 大学语文学习助手 "" 编程实训助手 ",服务场景的 " 新一代校园 AI 智能融合门户 "" 部门服务助手 ",以及管理场景中的 " 数据管理助手 ",全面满足南开师生在教学和服务场景下的智慧学习、智能办事、教学咨询、数据查询、知识答疑等需求。
3. 更新难度小。此次南开大学的智能化更新,火山引擎帮助建设了先进的 AI 基础设施,全力优化 AI 总体技术服务的底座与能力,提供了从硬體算力到开发工具、推理部署的一系列系统。这个完备的 AI 服务生态,让南开大学可以更聚焦于自身擅长的能力和行业经验,减少了智能化更新的难度。
比如已经落地的南开大学大模型应用开发平台,现已开放给南开的广大师生,使用大语言模型变成像使用 Windows 作業系統一样简单、易用,教育智能化的创新速度和效率,自然也就大大提高了。
目前来看,一系列 AI 赋能项目的实施和 AI 应用的落地,让南开大学在教学质量、科研效率和校园管理等方面都取得了显著进步。
(南开大学副校长、教授、博士生导师方勇纯)
南开大学副校长、教授、博士生导师方勇纯表示:" 南开大学携手火山引擎,共同探索‘ AI+ 教育’的创新模式,落地一批 AI 应用场景,培养一支高水平的 AI 人才队伍,全场景拥抱大模型,推进‘数字南开’智慧校园建设。"
可以看到,火山引擎的全栈 AI 技术服务生态,已经在海河之滨,点亮了一座 AI 在教育行业的落地灯塔。
与南开大学的合作中,火山引擎输出的不只有豆包大模型,还有火山方舟大模型服务平台、HiAgent AI 应用创新平台以及 AI 全栈云等多种能力。这并不是孤例,而是很多行业引入 AI 的普遍现象。
随着以大模型为主的 AI 技术不断进化,涉及的相关技术体系也越来越庞杂,行业想要引入 AI,需要考虑到算力资源、成本、开发工具、应用等方方面面,每一个环节都可能形成阻碍。这就使得行业从以往单一地采购硬體、算力或技术,转变为系统性地引入 AI 能力。
这时候,综合能力过硬的火山引擎,就迎来了惊艳亮相的舞台机会。
相声艺术的基本功是说学逗唱,火山引擎也在大模型落地行业场景时用到了三大基本功。
(火山引擎副总裁 张鑫)
功力一:更强模型。
行业用户最担心的,就是模型效果不达预期,无法在真实的生产环境中,利用大模型的理解、生成等能力,为业务提质增效。解决办法,就是把 AI 能力构筑在足够先进的模型底座上。
智源研究院旗下的 FlagEval 大模型评测平台 6 月发布的评测榜单显示,在闭源大模型的 " 客观评测 " 中,豆包大模型以综合评分 75.96 分排名国产大模型第一,并且还在不断更新演进。2024 火山引擎 AI 创新巡展-上海站最新数据显示,豆包大模型综合能力提升了 20.3%,角色扮演等 6 个维度性能最高提升 38.3%,可以支撑行业用户构建更优质的语音对话、文本理解与生成、影像识别等 AI 应用。发布 2 个月以来,平均每家企业客户日均 Tokens 使用量增长 22 倍。建立在规模使用量上的 " 数据飞轮 " 转动起来,模型能力持续领先。
功力二:更易落地。
在实际业务中,AI 大模型面临的环境更复杂、干扰源也更多,因此算法的准确率、鲁棒性等也会受影响,行业用户要真正把 AI 用起来,还需要结合知识库、专有数据、finetune 进一步优化。
让 AI 落地无忧,火山引擎打造了从算力到应用的一系列平台和解决方案。比如一站式大模型服务平台火山方舟,提供模型精调、推理、评测等全方位功能与服务;模型层,豆包大模型家族,提供丰富的垂类模型,适配多种业务场景;应用层,企业级 AI 应用开发平台扣子专业版,提供专业级 SLA 和多种高级特性,使 AI 应用更易落地。AI 应用创新平台 HiAgent,让业务人员可以轻松构建智能体,适配企业个性化需求,简化 AI 应用创新。火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,解除 " 买不到、买不起 " 算力的后顾之忧。
在此次天津站活动中,不仅南开大学分享了基于火山引擎全栈云与 AI 服务的智慧校园应用探索,中国国航、协和医院也分享了 AI 赋能业务的相关实践。
功力三:更低价格。
随着 AI 走向各行各业和生产环境,日常训练和推理的使用量不断增大,成本也变成了行业用户在引入 AI 时最关注的要素之一。模型价格高,试错成本高,会阻碍行业 AI 应用创新的意愿和行动。因此,更普惠的 AI 才是行业真正需要的。
帮助企业卸下成本负担,火山引擎一方面从当前入手,直接削减大模型推理成本,通过技术手段优化,让豆包大模型在各家大模型最强版本价格对比中,比行业价格低 98% 以上;另一方面着眼于长期使用,提供业内最高标准的初始 TPM(每分钟 Tokens)和 RPM(每分钟请求数),每分钟处理 Tokens 限额最高可达同梯队模型数倍,以更低价格、更高吞吐,让大模型在生产环境中用起来。
" 叫好又叫座 " 的 AI,不仅是发布会和实验室里碾压同行的漂亮数据与排名,更要走上行业舞台、直面群众,变成实际的案例与价值。
这是 AI 商业化所必须解决的挑战,也是云和模型厂商猛攻的新赛道。而火山引擎,已经亮出了具有说服力、全面而深厚的 AI 功底。
行之有效的行业案例,可以证明大模型确实有实用价值,才能推动各行各业 " 移风易俗 ",向 AI 奔涌而来。
从这个角度看,已经在教育、零售、汽车、智能终端等领網域点亮了 AI 灯塔的火山引擎,正吸引着越来越多的行业客户奔赴而来,为什么?
首先," 灯塔式 " 案例,可以照亮前路。当行业用户不知道 AI 有什么用、怎么用,这些示范案例可以像灯塔一样指明方向,让其他同类用户直接 " 抄作业 ",减少创新的不确定性。
除了与南开大学进行 "AI+ 教育 " 探索,火山引擎还在零售领網域,推出了解决方案,包括以豆包大模型为基础的智能导购、VOC 洞察分析、零售客服质检、零售客服陪练、练播房提升主播带货水平、企业商品知识库等技术和工具,助力零售智能化更新和业务增长。
在汽车行业,2024 年 8 月梅赛德斯 - 奔驰与火山引擎合作,探索大模型、生成式人工智能和大数据等技术在智能座舱、车载应用等领網域的落地。
有了这些案例,行业用户或许可以更勇敢一点,积极拥抱 AI。
" 灯塔 " 给出了更新方向,千行万业用户还要在陌生的智能航路上,独自探索,其间可能遭遇的暗礁与孤独感,这时则呼唤着伙伴同行。
为行业护航,火山引擎不仅亲自出马,搭建了完整的 AI 服务生态体系,也格外重视生态联盟的建设。
今年 5 月成立的智能终端大模型联盟,吸引了 OPPO、vivo、三星、华硕等多个厂商,共同探索 AI 智能硬體的新路线;同月成立的汽车大模型生态联盟,除了一汽红旗、吉利、长城等车企外,还包括中国电动汽车百人会等行业组织也都加入,围绕汽车大模型应用场景及路径、汽车大模型行业标准、汽车大模型评估体系建设落地,行业白皮书发布等方向为汽车行业创新合作发展带来新模式。
8 月成立的零售大模型生态联盟,则以 AI 互動为核心,将联合零售上下游企业,重新定义购买、营销、产品、供应链等场景,加速零售业的运营和周转效率,全面提升消费者的购物体验,推动行业进步发展。
上述生态联盟的意义在于,能够聚合产业的变革力量,让行业用户不再是 AI 路上的独行者。
火山引擎的一系列生态化动作,正推动 AI 从落地企业,进入到了落地产业的新阶段,让智能化从一家企业、一个行业的探索,变成整个产业都在加速拥抱的未来。而火山引擎自身,也成为连接 AI 与产业的核心枢纽。
或许未来,当我们回顾这段产业智能化的更新历程会说:火山引擎,既是 AI 技术的出处,也是千行百业的聚处。