云天励飞(688343.SH)于2026世界人工智能大会公布未来两年AI推理芯片路线图,推出三款专用芯片及集群协同方案,旨在通过推理负载解耦与资源精细配置,提升Token生成效率并降低单位成本。此举标志着公司在AI推理芯片领域的系统级布局,有望加速大模型推理场景的落地应用。 三款芯片各司其职:DeepVerse100P面向百万级上下文Prefill场景,通过独立处理Prefill负载,减少与Decode环节的资源竞争;DeepVerse100D专攻Decode环节,拥有数倍于主流芯片的内存带宽,支持1024卡Scale-up及光互联系统架构,通过动态光路直连降低多节点通信阻塞;DeepVerse100L则针对Decode阶段计算密集的FFN环节,采用3D Memory架构提升内存带宽,并通过低延迟互联提高计算并行效率。三款芯片将在万卡异构集群中分离式部署与协同运行,降低负载干扰,提升资源利用率。 软件层面,公司持续建设IFWA软件栈,覆盖模型开发、编程与系统层级,完善PyTorch ATen算子适配,并加强对vLLM、SGLang等主流推理框架的支持。通过开源Houmao多Agent异构编程框架,提高模型与算子适配效率。 从技术面看,该路线图聚焦系统级优化,而非单一芯片性能升级,有望提升集群资源利用率与算力产出效率。资金面上,AI推理芯片赛道持续受市场关注,公司此次发布或吸引增量资金流入。展望未来,面向“百亿Token一分钱”的长期目标,云天励飞通过芯片、互联、软件与系统协同,有望构建服务于大规模Token生成的“推理工厂”,推动AI推理成本持续下行。 文章导航 五粮液世界杯盲盒溢价44739元,稀缺性引爆收藏热