欢迎您访问河北J9旗舰厅,J9旗舰厅国际,J9旗舰厅官网食品有限公司官方网站

当前位置:J9旗舰厅 > 食品安全动态 > > 新闻内容

海光消息:算力竞赛进入Token效益时代

【发布时间 : 2026-06-06 20:49】 【人气 : 】

  

  他以“算力”为例申明,星际摸索中的算力无需全数传回,不然数据通道压力庞大。“将来的Token需求该当是分级的,有些就近计较,有些能够往算力核心去。如许会让AI成长愈加成熟。

  取此同时,CPU正在数据核心的感化正被从头定义。杜夏威暗示,大模子和Token化带来了用户群体数量级的增加,而要实现算力正在各行各业的触达,不克不及完全依赖高贵的AI芯片或算力核心。

  正在生态方面,杜夏威暗示,海光CPU不只取自研DCU搭配,也取生态内多种完成了产物化组合,并取多家伙伴合做推出AI终端和工做坐。

  面临当前行业遍及的“Token焦炙”,杜夏威给出了辩证的视角:“焦炙未必是坏事。若是大师对Token和算力没有,天然不会焦炙。大师都正在焦炙,申明财产正正在快速流动。”他认为,要处理焦炙,一方面要健全国产算力生态,提拔算力到Token的输送效率;另一方面要帮帮用户实现原有营业的Token化转型。

  总裁帮理兼智能计较产物部总司理杜夏威、光合组织嵌入式产物专家张考华接管了上海证券报记者采访,环绕Token经济效应、边端AI结构及国产算力生态扶植等热点话题,分享了计谋思虑。

  无论是正在数据核心端支持模子推理取锻炼,仍是正在CPU取GPU协同安排的各类场景中,CPU都饰演着不成或缺的脚色。MOE成为支流架构,KV Cache及部门算力不得不卸到Host端的CPU上,CPU的需求持续走高。正在办事模式上,海光正通过云上算力取私有化方案连系,构成“云端协同”的完整笼盖。

  若是说以锻炼为从的AI是“开场大戏”,那么边端AI取CPU价值沉估配合决定了这场大戏能走多深、影响多广。

  杜夏威提出,Token有一个很是主要的感化——它把算力和模子算法之间的怀抱衡同一了。这意味着财产能够环绕Token如许一个同一的怀抱衡,来切磋人工智能和算力财产的生态成长。他进一步区分了两个焦点维度:算力目标反馈芯片本身能力的“天花板”,而Token吞吐力权衡的是将算力为营业效能的现实能力,这两个目标要并沉去看。

  针对过去国产工控芯片“能用但欠好用”的刻板印象,张考华回应称,这是一种“思维惯性”。他引见,海光的C86芯片完整承继了成熟的X86手艺线,颠末正在高端办事器及超等算力范畴的深刻打磨,手艺已很是成熟。手艺下移到嵌入式范畴后,正在内生平安、宽温支撑、恶劣户外适配等方面都做了充实设想。

  张考华暗示,跟着AI手艺的深度演化,算力正从核心算力向外延展至边端。“将来整个AI能成长成什么样,能有几多出色内容呈现,能对糊口影响多广,更多的要看边端。边端的算力将来会成长得很是普遍,对芯片的需求会很是多。”恰是基于这一判断,推出了面向工控及半嵌入式场景的芯片。