允中 发自 凹非寺量子位 | 公众号 QbitAI
AI基础设施的竞赛规则，，，，，正在被改写。。。 。。。
上半场比的是谁的卡多，，，，，下半场比的是谁能把卡用好
7月17日，，，，，WAIC 2026上海浚？？？ ？，，，，，智算赛道200多家企业同台，，，，，新品麋集宣布。。。 。。。
但在一片“晒芯片、秀参数”的声浪里，，，，，是石科技的宣布会却显得有些差别：
是石科技首创人兼董事长闫博文在台上，，，，，不讲芯片，，，，，不讲模子，，，，，只讲一个词：效率
△WAIC 2026是石科技首创人兼董事长闫博文新品宣布现场
由于中国的算力，，，，，正在被大宗铺张——50多个智算中心，，，，，凌驾1000 EFLOPS的智能算力规模，，，，，平均使用效率却远远没有跑满。。。 。。。
算烦懑、长上下文响应下降，，，，，是普遍征象。。。 。。。
是石给出的解法，，，，，叫拓元（Vectron），，，，，一座国产Token优化工厂
效率，，，，，才是未来AI基础设施的要害词
中国已建设50多个智算中心，，，，，智能算力总规模已凌驾1000 EFLOPS。。。 。。。
但平均使用效率仍有重大提升空间。。。 。。。
“大宗算力正在被铺张，，，，，算烦懑、长上下文多模态响应下降，，，，，是普遍征象。。。 。。。”闫博文说。。。 。。。
是石科技依托国家级盘算中心工程履历积淀，，，，，一连投入大规模集群研发，，，，，建设万卡级国产大集群，，，，，一连稳固运营，，，，，优化推理效率，，，，，修建了深挚壁垒，，，，，率先买通从底层芯片到上层应用的超智融合全链路，，，，，真正把国产大集群从“点亮”酿成“跑满”，，，，，让重大国产算力切实转化为工业可用的Token稳固生产力。。。 。。。
“以是我们在重新思索，，，，，算力基础设施建设提速的同时，，，，，怎样进一步释放算力价值？？？？？ ？”闫博文以为，，，，，“十五五”时代，，，，，中国算力工业总投资预计抵达7万亿元。。。 。。。
若是算力使用效率能够提升十到二十个百分点，，，，，也将释放万亿级的算力价值空间，，，，，会让各行各业以更低的本钱进入到AI的天下里，，，，，引发出更多的应用需求。。。 。。。
这背后的一个潜台词是行业共识的转折：AI基础设施的竞争，，，，，正从“算力规模竞赛”转向“算力效率竞赛”。。。 。。。
未来AI基础设施的要害，，，，，不但在于芯片数目，，，，，更在于能否将芯片、互联、内存、散热、调理与软件栈整合为稳固可用的大规模系统
拓元，，，，，正是是石科技为这场“效率竞赛”交出的系统性答卷。。。 。。。
让每一份算力，，，，，转化为稳固、高效、有价值的Token
现在AI基础设施面临的效率难题主要包括：异构算力难以统一调理、大模子推理缺乏深度优化、长上下文导致显存与本钱压力骤增、国产芯片生态适配本钱高昂等。。。 。。。
针对这些痛点，，，，，拓元不应只是一个模子，，，，，也不但是一个工具。。。 。。。是石科技希望打造的，，，，，是一套完整的AI Infra优化系统
详细来说——
在使命自顺应优化上：依托请求画像匹配最优盘算链路，，，，，算力按需分配，，，，，镌汰资源铺张。。。 。。。
差别的推理使命自动匹配最合适的算力资源，，，，，而不是“一把抓”。。。 。。。
在算子库优化上：硬件专属算子融合编译，，，，，充分释放芯片极限算力。。。 。。。这意味着每颗国产芯片不再只是“能用”，，，，，而是被“榨”出了最优性能。。。 。。。在模子与推理框架优化上：兼容主流国产芯片与大模子，，，，，异构深度调优，，，，，提升营业并发量。。。 。。。在异构集群调理上：破除跨地区、多芯片算力孤岛，，，，，统一纳管调理，，，，，盘活闲置算力。。。 。。。
闫博文先容，，，，，拓元周全兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产算力芯片，，，，，适配20余个主流模子，，，，，实现国产异构算力池的统一调理与推理加速，，，，，逐日Token吞吐量达千亿级别。。。 。。。
关于企业客户而言，，，，，这意味着不管你的底层跑的是什么国产芯片，，，，，拓元都能让你的算力资源池被统一治理、优化调理，，，，，最终产出更多可用的Token。。。 。。。
用焦点手艺突破，，，，，把算力“榨”到极致
宣布会上，，，，，闫博文重点先容了拓元的多项焦点手艺突破，，，，，每一项都指向企业使用大模子历程中的真实痛点。。。 。。。
KV Cache压缩：让长文本不再烧钱
企业使用大模子时面临一个现实的问题，，，，，就是模子越来越强，，，，，运行本钱也越来越高。。。 。。。
尤其当上下文变长时，，，，，显存压力急剧攀升。。。 。。。
古板要领更多依赖输入阶段判断信息价值，，，，，但在真实营业中，，，，，模子需要关注往往动态转变的是什么。。。 。。。
拓元的效果感知驱动KV Cache压缩手艺，，，，，可以在不牺牲模子效果的条件下，，，，，显著压缩KV Cache、降低显存压力，，，，，让长文本、大规模AI应用真正能够经济地运行。。。 。。。
全模态推理的Token压缩：让AI学会抓重点
在大模子运行历程中，，，，，并不是所有信息都具有一律价值。。。 。。。
怎样保存要害Token、镌汰无效盘算，，，，，是效率提升的焦点命题。。。 。。。
拓元在全模态场景中提出了基于模态自顺应的免训练Token压缩要领，，，，，针对文本、视频、语音等差别输入，，，，，实现越发精准的信息筛选。。。 。。。
这意味着未来AI可以用更少盘算完成更重大使命，，，，，可以预见的是，，，，，在多模态时代，，，，，这个能力会越来越主要。。。 。。。
长上下文优化：百万级信息的高效处理
企业知识库、智能助手、重大剖析使命，，，，，越来越多场景要求模子具备超长影象能力。。。 。。。
拓元通过混淆位置索引合成的长上下文偏好训练要领，，，，，以及影象指导的重读机制，，，，，在远小于同类要领的训练数据量下实现了显著效果提升。。。 。。。
可靠深度推理：让AI学会自我优化
古板的大模子安排后，，，，，往往需要大宗人工反馈来一连优化输出质量，，，，，这就像养了一个需要一直投喂、调教的系统。。。 。。。
拓元提出的“基于元奖励的可扩展奖励建模要领”突破了这个难题。。。 。。。
闫博文将其比喻成从“养一个需要一直人工训练的AI”酿成“安排一个能够一连自我优化的AI系统”。。。 。。。
关于企业来说，，，，，这意味着AI落地本钱的大幅降低。。。 。。。
系统能够明确企业标准，，，，，在重大营业场景中一连输出稳固、可靠、切合要求的效果。。。 。。。
智能体长程使命影象机制：确保长程agent使命的稳固执行
智能体在执行长程检索使命时，，，，，有时会无法判断缺失约息或未读到的，，，，，是已经被扬弃照旧不保存的，，，，，从而爆发负面影响。。。 。。。
拓元明确了以目的导向的信息影象战略，，，，，突破希罕信息难监测、长程建模受限资源限制、注重力机制的二次重漂后开销大的难题。。。 。。。
闫博文体现，，，，，拓元可以资助模子实现更低训练本钱，，，，，更高上下文明确能力，，，，，更强重大推理能力
我们希望AI不但是能够回覆问题，，，，，而是能真正明确重大天下。。。 。。。
△是石科技国产Token优化工厂“拓元”Vectron产品亮点
从手艺到产品的要害一跃
是石科技建设于2021年，，，，，首创团队源自清华大学盘算机系，，，，，具备国家级盘算中心工程化履历。。。 。。。
闫博文自己是清华大学航院博士、盘算机系博士后，，，，，焦点成员主要由高性能盘算、人工智能等领域的资深专家，，，，，以及清华大学、北京大学、北京航空航天大学等重点高校学者组成。。。 。。。
已往几年，，，，，公司快速生长，，，，，已服务凌驾200家重点客户，，，，，笼罩互联网大厂、头部大模子公司、航空航天、生物制药、新能源等行业，，，，，在并行优化、算力调理等营业上形成了深挚的手艺护城河。。。 。。。
拓元的宣布，，，，，意味着是石科技将领先的手艺能力凝聚成了一个商业化和标准化的产品，，，，，驶上了规模；；さ目焖俾。。。 。。。
闫博文在宣布会上强调：
手艺立异的最终目的，，，，，不是停留在实验室，，，，，而是创立工业价值。。。 。。。
不但云云，，，，，拓元也再次明确了是石科技奇异的赛道占位。。。 。。。
国产芯片生态的成熟需要“中心件”，，，，，未来中国AI工业必定需要构建自主可控的手艺系统。。。 。。。
像拓元这样能够统一治理异构资源、屏障底层差别的平台，，，，，是国产算力生态走向“好用”的要害拼图。。。 。。。
在算力效率这个命题上，，，，，当大大都人还在讨论该怎么做的时间，，，，，是石科技已经把产品摆到了WAIC的展台上，，，，，也翻开了公司从算力服务到Token服务的商业化新空间。。。 。。。
闫博文在本次宣布会最后说：
关于我们这些手艺身世的人来讲，，，，，最希望听到的声音就是两种，，，，，第一是每次交付给客户的大规模集群，，，，，满负荷跑起来发出的万卡集群的轰鸣声；；；第二就是我们每次帮用户优化最终效果之后，，，，，客户对凯时AG高度评价。。。 。。。这两种声音我们以为也是未来中国的AI走得更强、走向天下的最强音。。。 。。。
*本文系量子位获授权刊载，，，，，看法仅为原作者所有。。。 。。。
