中经记者 李玉洋 上海报道
“快速迭代、还未收敛”,这是当前算力和大模型技术发展的一个共同表征。
“现在整个行业还处在算法快速迭代的阶段。哪怕同一家公司、不同版本模型的计算特征、算子结构都会发生改变。”日前,国内通用GPU(GPGPU)厂商天数智芯(09903.HK)副总裁邹翾在“从模型到世界”媒体开放日活动上如是表示。
《中国经营报》记者注意到,这场活动是天数智芯上市以来首次向媒体系统性地开放实机演示,而主角是该公司在今年世界人工智能大会期间发布的新一代通用GPU旗舰天垓300。根据第三方实测,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到某国际主流产品的1.05倍,这是国内首个实测性能媲美后者水平的通用GPU产品。
此外,天数智芯近日还有一个“直给”的操作:11月2日,其发布公告称,截至2026年10月31日止十个月,集团芯片累计出货量超8万片。可见,公司“秀”出的不只是技术力,还有持续提速的商业化落地。
在邹翾看来,尽管Groq LPU等专用架构和谷歌、亚马逊等企业自研定制芯片有其独特价值,但未来几年通用性依然是绕不开的底层需求。
“从目前的市场发展情况来看,国产算力芯片的诉求不再是单纯依赖相同架构上的迁移,更需要全栈的能力。”行业机构Omdia人工智能首席分析师苏廉节告诉记者。
天数智芯副总裁宋煜也有类似观点。他认为,客户最终评价的是芯片、软件与系统协同后的实际业务表现,可从客户业务发展及未来算力需求出发进行产品设计和优化。“在通用GPU架构基础上,针对重点业务负载中的计算、访存和通信瓶颈开展软硬件协同优化。”
不仅关注单颗芯片
“GPU只是一个部件,最后让客户用起来是与主机内存、存储、网络和GPU互连等环节密切相关。”宋煜表示,天数智芯不仅关注单颗芯片,也会在系统设计和软件层面做很多工作,客户最终关心的是相同投入、相同业务质量要求下,能够产出多少Token、生成多少秒视频。
而对于如何满足多样化推理需求,邹翾指出:“我们可以把通用模块和专用加速单元做灵活耦合,既可以放在单颗芯片内集成,也可以借助PD、AFD这类算力分离架构做分布式异构编排。”
他还指出,并不是GPU架构天然偏向Prefill或者Decode,而恰是GPU与生俱来的通用性,使得GPU架构更像是一套乐高积木。“不管业务、算法出现什么新变化,都可以快速适配、灵活组合。”而英伟达现在的路线,本质上也是这个方向。
天数智芯AI与加速计算负责人单天逸表示,天垓300可提供三个层次的异构协同思路,除了PD分离,还有混合训练与AFD分离。以AFD分离为例,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商的XPU承担FFN专家网络,两类芯片在统一调度下异构协同,实测Decoding推理延迟可降低60%,该方案已实际跑通,是国内第一个基于GPU+XPU的异构部署AFD分离方案。
“未来的AI算力系统,不一定由一种芯片包打天下。”单天逸表示,“关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。”
天数智芯副总裁石加圣则从软件的视角来看GPGPU的能力来自软硬件协同设计。“例如,PD分离带来的需求,需要经过负载分析、性能建模和架构权衡,进一步转化为对计算、存储、通信等基础能力的要求,再反映到芯片设计之中。这样形成的硬件能力并不只服务于某一种应用场景。”他指出,硬件架构能力还需要通过编译器、运行时、算子库和上层框架等软件环节衔接,才能持续转化为客户实际应用中的性能与使用体验。
业务需求倒逼算力分层
上述第三方实测显示,天垓300在真实业务测试水平意味着国产GPU正在进入新阶段——从解决“能不能用”的问题,转向比拼实际产出、运行效率和经济价值。
天数智芯将这一阶段概括为高质量算力——“高效率、可预期、可持续”,即相同投入能产出多少有效结果,长时间运行能否稳定,面对不同模型、业务和部署方式能否持续发挥作用。
据公司方面透露,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。其中,天垓300 IXL144超节点方案已在今年工博会亮相,其在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点,据测算每百万有效Token成本较国际主流方案可降低约40%。
“主要是市场对类GPU的诉求还没进入井喷式增长的状况。”苏廉节表示,天数智芯目前的表现中规中矩,要继续保持竞争,就得继续把生态做起来,争取多点开花。“光是聚焦在大型数据中心的训推场景,恐怕机会有限。”
而在此次活动上,天数智芯除了展示云端高效生产智能、软件加速适配外,还特地介绍了端侧产品布局(即彤央系列),并提出了算力分层的理念。该公司方面认为,物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”,业务需求让算力必须分层。
“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示,彤央以“一套生态、两种形态、五款产品”覆盖从客户自主集成到即用型部署的需求;“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。
其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到英伟达Thor T5000的1.2倍。Thor T5000是英伟达目前性能最强的边端产品。
具身智能芯片尚处于探索阶段
值得一提的是,天数智芯端还将近期英伟达GTC柏林大会爆火的机器鸭MicroDuck带到现场,虽是“同款”,却为手搓版。
不同于英伟达将训练任务送往云端,再把策略带回本地,天数智芯则把仿真训练、仿真验证和实物部署全部放进一台TY1200里完成。
也就是说,TY1200是这只MicroDuck设备的大脑。天数智芯方面表示,这次展示是TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,在世界模型Cosmos-R2-2B和Cosmos-R2-8B本地运行测试中,TY1200的实测性能分别达到Thor T5000的158%和180%。
当前,面向物理AI场景的具身智能端侧芯片正成为国内外算力芯片厂商新的方向。“具身智能不仅需要足够的算力,还要考虑能效和实时性。尤其是在真实环境中,机器人需要及时感知、决策和执行,这与很多传统计算场景不一样。目前大家都在围绕这些方向定义下一代芯片,行业还处于探索阶段。”天数智芯副总裁郭为表示。
据了解,天数智芯TY1200已进入储能电芯研究、应急视觉识别、陪诊机器人等真实任务中。比如,在储能电芯研究案例中,TY1200支持科研智能体自动采集、治理实验数据,并可在2分钟内生成报告。另外,天数智芯方面表示下一代端侧产品彤央TY2000将推出,标称算力将达600T。
(编辑:吴清 审核:李正豪 校对:颜京宁)
4001102288 欢迎批评指正
All Rights Reserved 新浪公司 版权所有
