Token经济,风起陇东
DeepSeek大火之后,为模型训练和推理市场带来计算量上的大幅增长。根据黄仁勋的测算,模型推理需要的算力消耗比我们当下以为的还要多100倍。
面对DeepSeek机遇,算力中心企业却喜忧参半。
喜的是算力需求总量激增,DeepSeek催生了Token经济,算力可以像使用水电一样按量计费,用户根据消耗的AI算力资源(以Token为单位)付费,让智算中心不局限于租售裸金属的传统商业模式,带来了新的商业机会。
忧的是基于DeepSeek等模型的AI服务,采用“薄利多销”的模式,让智算中心化身成“token工厂”,硬件与后训练、推理等场景需要从AI infra层面进一步调优,解决在线AI服务成本高、异构算力统一纳管难度大等问题。
因此,各地智算中心集群能否承接住DeepSeek催生的大量后训练、推理等需求,将决定token经济中谁主沉浮。
3月26日,“异构智算,纵横未来”——异构智算产业生态联盟走进燧弘华创庆阳绿色智算中心,共同见证了DeepSeek大模型落地的新突破,以及异构算力在超大规模智算场景中从技术攻坚到产业化应用的历史性跨越。
硬件方面,此次庆阳项目中交付的联想问天 WA5480 G3服务器,采用了2颗第四代英特尔®至强®可扩展处理器,内置加速性能更进一步,可以优化DeepSeek落地的推理表现。
技术方面,燧弘华创庆阳绿色智算中心部署了多元异构算力调度平台,依托联想万全异构智算平台在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景的明显优势,为各行业应用DeepSeek构建了高效能、可持续的算力底座。
借此契机,我们深入了解一下,token经济,为何风起陇东。
AI算力作为数字经济的核心生产要素,其发展态势与基础设施建设紧密交织。DeepSeek点燃AI算力需求之后,作为东数西算八大国家级枢纽之一的“中国算谷”庆阳,受到了前所未有的关注。
对于庆阳数据中心企业来说,抓住DeepSeek机会,当务之急是要把“服务器农场”变成“token工厂”,也就是从租赁裸金属资源的传统模式,拓展按token使用量计费的新AI服务模式。
之所以出现这种变化,一是客户变了,DeepSeek使得企业AI渗透率从头部厂商向中小企业扩散,而中小企业需要的算力规模和硬件数量相对少,像水电费一样用多少算力资源付多少钱,这种动态、轻量化的AI服务,需要对异构算力资源进行统一、高效、精益的纳管。
二是AI任务变了,DeepSeek让计算任务从预训练,转向了后训练和推理,而DeepSeek的全新模型架构,硬件必须针对性地优化、调优,不然算力服务商提供Maas服务的成本会很高,无法真的靠卖token赚到钱,AI算力也很难普惠。
与此同时,智算供应链也风云变幻。海外硬件供应链也愈发不稳定,面临越来越严苛的限制,将DeepSeek部署在国产智算底座是大势所趋。但国产硬件的架构多、彼此生态不互通、异构算力合池训练存在资源墙。
因此,庆阳的算力中心企业想要转型“token工厂”,开拓DeepSeek服务的新商业模式,助力行业智能化,必须解决异构智算与AI大模型深度融合的技术挑战。
解决全国AI算力需求,东数西算工程正重构算力版图。其中,“中国算谷”庆阳备受瞩目,一是算力够用,二是算力好用。
自2023年起,庆阳持续打造算力集群基础设施,目前庆阳市的总算力规模,已达5.1万PFLOPS,从东数西算枢纽末位跃升至全国第一方阵,为数字经济发展筑牢“智算”底座。其中,燧弘华创打造的庆阳绿色智算中心,已成功构建超2万P的高性能算力供给规模。
让千行百业觉得算力好用,敢于把DeepSeek接入自身场景,燧弘华创庆阳绿色智算中心协同联想万全异构智算平台,突破算力瓶颈,构建了好用的异构智算底座。
首先是算力充沛,让千行万业都用得上。比如此次庆阳项目中联想问天 WA5480 G3服务器,搭载的第四代英特尔®至强®可扩展处理器,拥有强大的计算能力,内置了众多加速器,是智算中心建设的首选。
其次是优化技术强,算效高、单位token的算力成本低,才能在保证模型效果的同时,实现算力普惠,让中小企业或实体行业用得好,也用得起。
燧弘华创庆阳绿色智算中心作为联想AI基础设施新技术的试点之一,就充分展现了联想的技术创新与研发的快速响应能力,当地第一时间实现了两个突破:
一是突破算力瓶颈,通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等诸多领先创新方式,进一步提升单机服务器运行大模型的性能,3000并发下总吞吐量超8000 tokens/s,持续提升DeepSeek满血版用户体验,刷新行业标准。
二是突破异构算力“资源墙”。联想万全异构智算平台可以统一纳管异构算力,实现对异构计算集群的高效管理调度和可用性保障,让伙伴能够为客户提供融合、稳定的通用、智能和科学算力。
产业链协作方面,庆阳依托异构智算产业生态联盟,得到了国产智算产业全链条的紧密支持,联想万全生态从IaaS平台、AI训练与推理到行业场景解决方案的全覆盖,为燧弘华创庆阳智算中心保驾护航,从而为庆阳打造东数西算模范节点注入了强劲动力。
正是在异构智算产业生态的合力托举下,庆阳得以抢占先机,凭借“够用+好用”的算力,抓住DeepSeek落地需求,加速算力消纳,真正把AI技术转变成了当地的token经济红利。
“够用+好用”的智算集群,成就了庆阳作为国家级数算枢纽之一,从末位到第一梯队的发展奇迹,也为当地数据中心企业探索以token使用量为主的全新商业模式,提供有力支撑。
而燧弘华创与联想的结缘,就是“庆阳奇迹”的一个重要里程碑事件。双方此前在庆阳所做的大量准备工作,是庆阳智算规模快速壮大的基础,也是陇东数字经济借势Deepseek起飞的前提。
联想作为燧弘华创的重要资源与伙伴,为庆阳构建面向AI时代的基础设施,带来了四种助力:
1.先进。技术与产品先进,比如联想万全异构智算平台在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景具有明显优势,DeepSeek后训练场景中,调优技术使得训练MFU高达60%以上;推理场景中,联想AI服务器可以全速运转满血版DeepSeek R1大模型,极限吞吐量可超8000 tokens/s。这些先进技术,支撑燧弘华创庆阳绿色智算中心,成为东数西算枢纽中第一个全智算中心,及时抓住Deepseek的AI普惠浪潮和算力需求。
2.全面。联想正全力推进“一横五纵”战略布局,全面推出覆盖万全异构智算平台,以及涵盖服务器、存储、数据网络、软件及超融合、支持运维服务等在内的全方位基础设施解决方案,可以满足燧弘华创建设先进绿色算力中心的一体化需求,从而加速庆阳在一年多时间内就跻身全国“东数西算”枢纽的第一梯队。
3.开放。万全异构智算平台对通用计算集群、科学计算集群和AI算力集群进行统一管理,并对多种CPU、GPU、DPU等处理器进行异构管理调度,更符合国内落地deepseek的实际算力需求,更具前瞻性。正如英特尔高性能计算行业负责人所说,将超算与智算的能力相结合,以超智融合技术来满足在人工智能高速发展背景下的各行业多元算力需求。这也是联想及其伙伴的共同努力方向。
4.服务。在合作过程中,联想24小时响应燧弘华创的需求,燧弘华创的拼搏精神+联想的周到服务,共同推动了庆阳智算产业的跃升奇迹。
在万全平台上,构筑算力通衢;以万全生态,护航DeepSeek落地千行百业。这是为什么token经济能在春节后风起陇东,带火了“中国算谷”庆阳。
庆阳的努力与初见成果,验证了“token经济”在东数西算战略下的可行性,未来可复制至其他枢纽节点。不久的将来,我们会看到在异构智算底座上,token经济,风起智能中国。