建设首个国产AI推理千卡集群,云天励飞给“国模国芯”打了个样

客服微996438436个月前财经知识88

_建设首个国产AI推理千卡集群,云天励飞给“国模国芯”打了个样_建设首个国产AI推理千卡集群,云天励飞给“国模国芯”打了个样

云天励飞(688343.SH)又拿下4.2亿元大单。

3月12日,根据公开招标信息,云天励飞中标湛江市AI渗透⽀撑新质⽣产⼒基础设施建设项⽬(以下简称“湛江项目”),中标⾦额4.2亿元。项目将基于云天励飞自研的国产AI推理加速卡,建设国产AI推理千卡集群。集群计划搭载DeepSeek等国产大模型,为政务、产业及相关应用场景提供更加便捷、低成本的AI能力。

云天励飞2025年度业绩快报显示,过去一年,云天励飞实现营收13.08亿元,较上年同期增加42.57%;归母净亏损4.02亿元,较上年同期收窄30.50%。在此节点揽下4.2亿元算力基建项目,不仅是对其自研芯片商业化能力的有力背书,更将直接转化为公司未来业绩持续增长的动能。

但对于云天励飞来说,比财务贡献,湛江项目的标杆意义更不容忽视。当人工智能从实验室走向产业的深水区,算力的价值就不再是刷榜的指标,而是赋能千行百业的普惠生产力。从这个角度看,湛江项目不仅是短期营收的助推器,更是云天励飞证明自研实力、抢占产业高地的关键一役。

作为首个全国产化AI推理千卡集群,湛江项目不仅是云天励飞推理算力规模化商用落地的标杆项目,还为“国模国芯”的深度融合提供了最佳的试验场,助其不断向万卡集群的目标推进

当产业焦点从训练峰值转向推理成本,谁能以更低成本提供稳定的大规模推理能力,谁就能在下一轮AI竞赛中占据先机。云天励飞在湛江布下的这枚棋子,正是其面向推理时代的一次关键卡位。

AI算力需求⾛向“推理优先”

不同于过去国内智算中心普遍奉行的“训推一体”建设模式,云天励飞此次在湛江落地的项目,选择了一条更为聚焦的技术路径——专注推理任务的AI推理集群,主要⾯向各类⾏业应⽤场景,为传统产业的AI化提供直接⽀撑。

这一转向背后,其实是AI产业逻辑的深刻变革。

AI算力体系⼤体可以分为训练算⼒与推理算⼒。其中,训练算力决定模型如何完成从0到1的能力构建,更为注重绝对的计算能力;而推理算力主要是利用训练好的神经网络模型进行推理预测,更强调实用,对算力的要求相对低一些,更关注低延时、低功耗。

过去几年,行业的兴奋点更多集中在参数规模的军备竞赛上,百亿、千亿甚至万亿参数的大模型轮番登场,各家大厂都在争相抢夺模型能力的高点。然而,随着模型能力的成熟,产业界开始频繁追问一个更现实的问题:模型这么强,到底能在哪些场景里真正创造价值?

推理算力因此受到更多的重视。⽆论是春节期间⼤热的SeeDance,近期⼴泛讨论的“小龙虾”,还是各⾏业不断上线的AI Agent应⽤,背后都离不开推理算力的支撑。据市场分析机构Gartner预测,2026年,约55%的AI专用云基础设施支出将用于推理工作负载。

这恰好是云天励飞的优势。这家国产芯片厂商已经专注在推理芯片领域多年,其首创的“算力积木”架构,已经在国产先进工艺下实现算力的灵活拓展,并面向边端、具身智能、云端等领域,推出“深界”“深擎”“深穹”系列芯片。

也正是得益于此,云天励飞才能更好地满足湛江项目的需求,

大模型推理应用需要同时满足高并发、高吞吐与低延迟的需求。同时,随着大模型上下文长度不断增加,大量中间状态需要以KV Cache(键值缓存)的形式存储。因此,业内普遍认为,未来推理系统的性能瓶颈将越来越多来自数据访问效率,而不仅仅是计算能力。

在这一背景下,算力、存储与网络之间的协同设计,正逐渐成为AI基础设施的重要竞争力。

本次在湛江落地的千卡推理集群,正是围绕这一思路进行构建。该集群采用云天励飞自主研发的AI推理芯片,并在系统架构上确立了“优先优化Prefill、兼顾Decode”的技术路线。通过在芯片设计中对计算资源与存储带宽进行针对性配置,使系统在长上下文推理场景下依然能够保持较高的吞吐效率。

在网络互联方面,云天励飞采用统一高速互联架构,通过400G光网络构建集群物理层网络,实现节点之间的高带宽、低延迟通信;在部署能力上,该架构既可以支持单节点数十卡规模扩展,也能够平滑扩展至千卡级集群规模,从而适配不同规模的AI应用需求。

通过芯片架构、网络互联以及系统调度等多层优化,这一推理集群在整体效率与成本控制方面形成了明显优势,为AI规模化应用提供了更加经济的算力方案。

要把百亿Token的成本压至一分钱

对于云天励飞来说,湛江项目的落地还只是一个开始。

随着⼤模型逐渐进⼊应⽤阶段,产业关注点正从“算⼒峰值”转向“单位成本效率”。换句话说,未来AI产业竞争的重要维度,不仅在于模型能⼒本⾝,还在于谁能够以更低成本提供稳定的⼤规模推理能⼒。

作为推理芯片先行者的云天励飞对此有着明确的感知。今年2月,云天励飞以推进百万Token推理成本每年两位数的降低为目标,正式发布了未来三年的大算力芯片规划。

其中,第一代超节点P芯片将于今年推出,其将面向百万长上下文的场景进行极致的Prefill推理优化,在算力上紧跟H100;随后,2027年,云天励飞将研发第一代超节点D芯片,以此在Decode推理方面实现超低延时;最后,于2028年,云天励飞将研发第二代超节点D芯片,致力于通过系统级协同优化,实现Prefill与Decode性能的整体提升,向毫秒级推理时延目标迈进。

蓝图已然绘就,但再宏大的技术规划,最终都需要落地场景来验证其商业价值。芯片设计是否真正契合产业需求?Prefill与Decode的资源配置能否在实际负载中达到最优?KV Cache带来的数据访问压力如何在千卡级规模下有效疏解?这些问题无法在实验室里给出最终答案,必须在真实的产业环境中接受检验。

因此,对于云天励飞来说,湛江项目不只是一次简单的项目交付,更是一场技术主力的实战演练。

据悉,湛江项目将分三期建设,全部采用云天励飞自研的国产AI推理加速卡。一期项目将部署云天励飞X6000推理加速卡;二、三期建设将率先搭载公司最新一代芯片产品。其中,云天励飞首款Prefill芯片DeepVerse100预计将在年内完成流片,并计划在湛江集群中率先部署。

与此同时,湛江项目所构建的千卡级推理集群,还展现出极强的弹性部署能力。在典型架构下,一个千卡级集群通常由多级扩展结构组成:从单节点8卡、32卡,到64卡甚至百卡级超节点,再到跨节点的大规模集群。通过这一规模系统的实际运行,可以充分验证卡间互联、节点通信和负载均衡等关键技术,为云天励飞未来更大规模AI算力系统建设积累经验。

在更长期的规划中,云天励飞提出“1001计划”,即以“百亿Token一分钱”为长期目标,通过芯片与系统协同优化持续降低大模型推理成本。

如果这一目标能够成为现实,AI将会真正变得像水和电一样,变成流淌于百行千业的基础设施。而对于率先在推理赛道上布局的云天励飞来说,也将迎来一个属于“卖水人”的黄金时代。

相关文章

ASIC引爆算力新风口,国产自主可控提速,CPO等概念震荡反弹

ASIC引爆算力新风口,国产自主可控提速,CPO等概念震荡反弹

11月26日,CPO概念延续反弹,谷歌链方向领涨。截至收盘,赛微电子(300456.SZ)涨超16%,特发信息(000070.SZ)更是走出4连板。此外,CPO头部企业“易中天”也迎来大涨。 消息面上...

A股进入贤者时间了么?丨智氪

A股进入贤者时间了么?丨智氪

作者 |范亮 编辑|郑怀舟 封面来源|视觉中国 市场极致缩量,银行再创新高 在经历4月上旬的风险释放和情绪释放后,本周市场进入观望状态。 首先从交易活跃度来看,2025年以来,万得全A日均成交额1...

四年研发投入超32亿!沐曦股份2025年营收翻倍,首度亏损收窄

四年研发投入超32亿!沐曦股份2025年营收翻倍,首度亏损收窄

作为一家Fabless厂,年报称沐曦股份是“国内少数几家系统掌握了高性能GPU芯片及其基础系统软件研发、设计和量产技术的企业之一”。 从业绩轨迹来看,沐曦股份近几年营收可谓“跨越式”增长。根据招股说明...

百度昆仑芯征战IPO:营收跑赢同行,估值为何却只有零头?

百度昆仑芯征战IPO:营收跑赢同行,估值为何却只有零头?

当你在搜索引擎中输入一个简单问题,后台可能有上万枚AI芯片同时在为你的答案进行推理计算,而其中一部分可能正来自百度的昆仑芯。 12月16日,据“腾讯科技”独家报道,昆仑芯即将完成股改,加速冲刺上市,2...

沐曦成功上市,推动行业国产化“芯片+AI”规模化落地

沐曦成功上市,推动行业国产化“芯片+AI”规模化落地

当全球AI竞赛进入算力决胜局,一家中国芯片公司正试图打破国际巨头的垄断。12月17日,沐曦股份正式在科创板挂牌上市,携其全栈自研的“中国芯”叩开资本市场的大门。上市当天股价一路飙升,开盘价700元,1...

至少有九家中国AI芯片公司出货量超万卡

至少有九家中国AI芯片公司出货量超万卡

在严格的芯片出口管制的倒逼下,国产数据中心AI芯片的自主化进程正在加速。目前,国产AI芯片包括华为昇腾、百度昆仑芯、阿里平头哥、寒武纪等十余个品牌。 《财经》多方调研获悉,至少有九家中国AI芯片公司的...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
客服微信:BT86616点击复制并跳转微信