首页 > 产业市场 > IT > IT滚动新闻

是石科技全球首发国产Token优化工厂

2026-07-20 13:24 来源:新华财经
查看余下全文
首页 > 产业市场 > IT > IT滚动新闻

是石科技全球首发国产Token优化工厂

2026年07月20日 13:24 来源:新华财经
[字号 ]

新华财经北京7月17日电 7月17日,世界人工智能大会(WAIC 2026)在上海开幕。是石科技在大会正式发布“国产Token优化工厂——拓元(Vectron)”,以前应对AI基础设施面临的效率难题。

近年来,我国算力建设持续提速,已建成50余座智算中心,智能算力总规模已突破1000EFLOPS,“十五五”期间产业总投资预计将达7万亿元。与此同时,面对应用端的新挑战,传统分散式算力已难以为继,算不满、算不起、算不快的问题普遍存在,平均利用效率有很大提升空间。

是石科技创始人兼董事长闫博文认为,当前AI竞争正从“比谁拥有更多GPU”转向“比谁让算力产生更大价值”,或者说,从更大规模、更多参数、更强训练能力的单一目标,转向对更低成本、更高效率、更强应用能力的追求。

在这一背景下,是石科技通过构建“HPC+AI”超智融合的全栈式大规模集群解决方案,打通了从底层芯片到上层应用的层层壁垒,致力于在同等算力投入下产出更多有效Token,同等大模型部署下实现更快的推理响应,同等显存硬件下超长上下文运行更稳。

闫博文表示,“拓元”的核心逻辑是“一套系统完成AI推理全链路优化”:在任务自适应层面,依托请求画像匹配最优计算链路,算力按需分配,减少资源浪费;在算子库层面,通过硬件专属算子融合编译,充分释放芯片极限算力;在模型与推理框架层面,兼容主流国产芯片与大模型,异构深度调优,提升业务并发量;在异构集群调度层面,破除跨地域、多芯片算力孤岛,统一纳管调度,盘活闲置算力。

截至目前,“拓元”已兼容10余款国产算力芯片,可适配20余个主流模型,每日Token吞吐量达到千亿级,公司服务客户涵盖头部互联网和头部大模型厂商,以及高端制造、航空航天、生物制药、新能源等行业,应用场景包括编程应用、文生视频、OPC社区(一人社区)、企业智能体等。

(责任编辑:李冬阳)