今天小编分享的科学经验:Token经济,风起陇东,欢迎阅读。
DeepSeek 大火之后,为模型训练和推理市场带来计算量上的大幅增长。根据黄仁勋的测算,模型推理需要的算力消耗比我们当下以为的还要多 100 倍。
面对 DeepSeek 机遇,算力中心企业却喜忧参半。
喜的是算力需求总量激增,DeepSeek 催生了 Token 经济,算力可以像使用水电一样按量计费,用户根据消耗的 AI 算力资源(以 Token 为部門)付费,让智算中心不局限于租售裸金属的传统商业模式,带来了新的商业机会。
忧的是基于 DeepSeek 等模型的 AI 服务,采用 " 薄利多销 " 的模式,让智算中心化身成 "token 工厂 ",硬體与后训练、推理等场景需要从 AI infra 层面进一步调优,解决在线 AI 服务成本高、异构算力统一纳管难度大等问题。
因此,各地智算中心集群能否承接住 DeepSeek 催生的大量后训练、推理等需求,将决定 token 经济中谁主沉浮。
3 月 26 日," 异构智算,纵横未来 " ——异构智算产业生态联盟走进燧弘华创庆阳绿色智算中心,共同见证了 DeepSeek 大模型落地的新突破,以及异构算力在超大规模智算场景中从技术攻坚到产业化应用的历史性跨越。
硬體方面,此次庆阳项目中交付的联想问天 WA5480 G3 伺服器,采用了 2 颗第四代英特尔 ® 至强 ® 可扩展处理器,内置加速性能更进一步,可以优化 DeepSeek 落地的推理表现。
技术方面,燧弘华创庆阳绿色智算中心部署了多元异构算力调度平台,依托联想万全异构智算平台在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景的明显优势,为各行业应用 DeepSeek 构建了高效能、可持续的算力底座。
借此契机,我们深入了解一下,token 经济,为何风起陇东。
AI 算力作为数字经济的核心生产要素,其发展态势与基础设施建设紧密交织。DeepSeek 点燃 AI 算力需求之后,作为东数西算八大国家级枢纽之一的 " 中国算谷 " 庆阳,受到了前所未有的关注。
对于庆阳数据中心企业来说,抓住 DeepSeek 机会,当务之急是要把 " 伺服器农场 " 变成 "token 工厂 ",也就是从租赁裸金属资源的传统模式,拓展按 token 使用量计费的新 AI 服务模式。
之所以出现这种变化,一是客户变了,DeepSeek 使得企业 AI 渗透率从头部厂商向中小企业扩散,而中小企业需要的算力规模和硬體数量相对少,像水电费一样用多少算力资源付多少钱,这种动态、轻量化的 AI 服务,需要对异构算力资源进行统一、高效、精益的纳管。
二是 AI 任务变了,DeepSeek 让计算任务从预训练,转向了后训练和推理,而 DeepSeek 的全新模型架构,硬體必须针对性地优化、调优,不然算力服务商提供 Maas 服务的成本会很高,无法真的靠卖 token 赚到钱,AI 算力也很难普惠。
与此同时,智算供应链也风云变幻。海外硬體供应链也愈发不稳定,面临越来越严苛的限制,将 DeepSeek 部署在国产智算底座是大势所趋。但国产硬體的架构多、彼此生态不互通、异构算力合池训练存在资源墙。
因此,庆阳的算力中心企业想要转型 "token 工厂 ",开拓 DeepSeek 服务的新商业模式,助力行业智能化,必须解决异构智算与 AI 大模型深度融合的技术挑战。
解决全国 AI 算力需求,东数西算工程正重构算力版图。其中," 中国算谷 " 庆阳备受瞩目,一是算力够用,二是算力好用。
自 2023 年起,庆阳持续打造算力集群基础设施,目前庆阳市的总算力规模,已达 5.1 万 PFLOPS,从东数西算枢纽末位跃升至全国第一方阵,为数字经济发展筑牢 " 智算 " 底座。其中,燧弘华创打造的庆阳绿色智算中心,已成功构建超 2 万 P 的高性能算力供给规模。
让千行百业觉得算力好用,敢于把 DeepSeek 接入自身场景,燧弘华创庆阳绿色智算中心协同联想万全异构智算平台,突破算力瓶颈,构建了好用的异构智算底座。
首先是算力充沛,让千行万业都用得上。比如此次庆阳项目中联想问天 WA5480 G3 伺服器,搭载的第四代英特尔 ® 至强 ® 可扩展处理器,拥有强大的计算能力,内置了众多加速器,是智算中心建设的首选。
其次是优化技术强,算效高、部門 token 的算力成本低,才能在保证模型效果的同时,实现算力普惠,让中小企业或实体行业用得好,也用得起。
燧弘华创庆阳绿色智算中心作为联想 AI 基础设施新技术的试点之一,就充分展现了联想的技术创新与研发的快速响应能力,当地第一时间实现了两个突破:
一是突破算力瓶颈,通过访存优化、显存优化、PCIe 5.0 全互联架构创新以及精选 SGLang 框架中性能最优算子等诸多领先创新方式,进一步提升单机伺服器运行大模型的性能,3000 并发下总吞吐量超 8000 tokens/s,持续提升 DeepSeek 满血版用户体验,刷新行业标准。
二是突破异构算力 " 资源墙 "。联想万全异构智算平台可以统一纳管异构算力,实现对异构计算集群的高效管理调度和可用性保障,让伙伴能够为客户提供融合、稳定的通用、智能和科学算力。
产业链协作方面,庆阳依托异构智算产业生态联盟,得到了国产智算产业全链条的紧密支持,联想万全生态从 IaaS 平台、AI 训练与推理到行业场景解决方案的全覆盖,为燧弘华创庆阳智算中心保驾护航,从而为庆阳打造东数西算模范节点注入了强劲动力。
正是在异构智算产业生态的合力托举下,庆阳得以抢占先机,凭借 " 够用 + 好用 " 的算力,抓住 DeepSeek 落地需求,加速算力消纳,真正把 AI 技术转变成了当地的 token 经济红利。
" 够用 + 好用 " 的智算集群,成就了庆阳作为国家级数算枢纽之一,从末位到第一梯队的发展奇迹,也为当地数据中心企业探索以 token 使用量为主的全新商业模式,提供有力支撑。
而燧弘华创与联想的结缘,就是 " 庆阳奇迹 " 的一个重要里程碑事件。双方此前在庆阳所做的大量准备工作,是庆阳智算规模快速壮大的基础,也是陇东数字经济借势 Deepseek 起飞的前提。
联想作为燧弘华创的重要资源与伙伴,为庆阳构建面向 AI 时代的基础设施,带来了四种助力:
1. 先进。技术与产品先进,比如联想万全异构智算平台在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景具有明显优势,DeepSeek 后训练场景中,调优技术使得训练 MFU 高达 60% 以上;推理场景中,联想 AI 伺服器可以全速运转满血版 DeepSeek R1 大模型,极限吞吐量可超 8000 tokens/s。这些先进技术,支撑燧弘华创庆阳绿色智算中心,成为东数西算枢纽中第一个全智算中心,及时抓住 Deepseek 的 AI 普惠浪潮和算力需求。
2. 全面。联想正全力推进" 一横五纵 " 战略布局,全面推出覆盖万全异构智算平台,以及涵盖伺服器、存储、数据网络、軟體及超融合、支持运维服务等在内的全方位基础设施解决方案,可以满足燧弘华创建设先进绿色算力中心的一体化需求,从而加速庆阳在一年多时间内就跻身全国 " 东数西算 " 枢纽的第一梯队。
3. 开放。万全异构智算平台对通用计算集群、科学计算集群和 AI 算力集群进行统一管理,并对多种 CPU、GPU、DPU 等处理器进行异构管理调度,更符合国内落地 deepseek 的实际算力需求,更具前瞻性。正如英特尔高性能计算行业负责人所说,将超算与智算的能力相结合,以超智融合技术来满足在人工智能高速发展背景下的各行业多元算力需求。这也是联想及其伙伴的共同努力方向。
4. 服务。在合作过程中,联想 24 小时响应燧弘华创的需求,燧弘华创的拼搏精神 + 联想的周到服务,共同推动了庆阳智算产业的跃升奇迹。
在万全平台上,构筑算力通衢;以万全生态,护航 DeepSeek 落地千行百业。这是为什么 token 经济能在春节后风起陇东,带火了 " 中国算谷 " 庆阳。
庆阳的努力与初见成果,验证了 "token 经济 " 在东数西算战略下的可行性,未来可复制至其他枢纽节点。不久的将来,我们会看到在异构智算底座上,token 经济,风起智能中国。