凯时AG

环球热门新闻资讯
2026-07-18 17:22:28
首页 > 新闻 > 时政要闻 > 正文

本周AI项目推荐|Factory Router,,Inworld Router,,nexos.ai ...... Router 无处不在

作者|张奚晨微信 |a8072314b

进入 Agent 时代,,一次使命不再只是问模子一个问题,,而是妄想、搜索、挪用工具、执行使命,,再重复检查效果。。每多走一步,,都在继续消耗 Token。。

但公司的 AI 账单已经支持不起 Token 随便烧了,,不可允许每一个简朴行动都挪用价钱高昂的前沿模子。。理想的状态是,,重大使命需要最强模子,,简朴使命可以交给更自制的模子,,让善于代码、检索、推理的差别模子各司其职。。问题因此从“哪个模子最强”,,酿成“最该挪用哪个模子”。。

Router 在已往主要认真毗连差别模子、切换供应商、平衡价钱和稳固性。。而现在,,随着模子越来越多、Agent 的使命链越来越长,,它最先肩负更重大的决议:明确使命、选择模子、控制本钱,,甚至组织多个模子分工、评审和合成谜底。。

市场已经给这个偏向开出了第一张高价“奖状”。。今年 5 月,,OpenRouter 完成 CapitalG(Alphabet 旗下生长基金)领投的 1.13 亿美元 B 轮,,估值约 13 亿美元,,较一年前翻了一倍多;;;其年化收入在 18 个月里从 100 万美元涨到 5000 万美元,,平台每周处理的 Token 已达 25 万亿。。Nvidia、ServiceNow、Snowflake、Databricks 的投资部分都泛起在股东名单里,,而这家公司原本并没有在自动融资。。一个抽 5% 过盘费的“中心商”拿到独角兽定价,,说明资源已经认可:当模子自己走向大宗商品化,,价值正在向调理层转移。。

这也是我们当下关注 Router 的原因。。它既可以通过“把合适的使命交给合适的模子”降低本钱,,也可以通过语义判断和多模子协作提升效果。。Router 正在从模子挪用背后的流量分配器,,逐渐酿成 AI 系统中分配智能、算力和预算的决议层。。

OpenRouter 之外,,本期我们选择了六个还在爬坡的项目,,看看跑在前面的玩家怎样沿着差别偏向推进 Router:有的为使命选择模子,,有的先明确意图再决议去向,,有的组织多个模子配合完成使命,,尚有的先成为所有挪用必经的那一层,,把网关做成开源基础设施和企业的控制层。。

一、选对模子:为每个使命分配合适的智能

1、Factory Router

一句话先容:Factory Router 是面向软件开发 Agent 的模子路由器。。路由凭证用户指令、近期工具挪用、代码库规模和使命难度等信号,,为每个 Droid 会话选择知足质量门槛的低本钱模子,,并在模子体现不佳时升级或切换模子。。

团队配景:Factory 是一家 Agent 原生软件开发平台,,由伯克利理论物理博士 Matan Grinberg 和曾在微软、Hugging Face 任职的 Eno Reyes 于 2023 年建设。。2026 年 4 月,,公司完成由 Khosla Ventures 领投的 1.5 亿美元 C 轮融资,,估值 15 亿美元,,投资方还包括红杉资源、Blackstone、Insight Partners 和 NEA 等。。

为什么值得关注:它把 Router 放进了真实的 Agent 会话:路由决议不但爆发在使命最先时,,还可以凭证模子执行是否顺遂继续调解。。相比通用路由,,笔直场景更容易积累可靠的使命—模子效果数据,,也更容易证实事实省了几多钱。。官方展示相比所有使命牢靠使用 Claude Opus 4.7,,Factory Router 可在坚持前沿性能的同时节约最高 25% 的会话本钱。。

值得思索:Factory 尚未果真路由模子和训练数据,,官方宣布的节约比例也来自自有工程基准。。其代表了一条很现实的蹊径,,但效果可能高度依赖 Factory 自己的 Agent、数据和事情流,,未必能够直接迁徙到其他场景。。

官网链接:https://factory.ai/product/router

2、Inworld Router

一句话先容:Inworld Router 把路由信号从文本扩展到了声音:一个接入 220 多个第三方模子的路由器,,可以凭听语言人的情绪、犹豫和语速决议挪用哪个模子——一个显着沮丧的用户,,会被自动路由到更强的模子。。

团队配景:Inworld AI 2021 年建设于加州山景城,,首创团队是对话式 AI 的老兵——联合首创人 Ilya Gelfenbeyn 和 CTO Michael Ermolenko 此前开办的 Api.ai 被 Google 收购后成为 Dialogflow。。公司以游戏 AI 角色引擎起身,,客户包括 Xbox、Ubisoft,,累计融资约 1.2 亿美元,,2023 年的 5000 万美元融资对应 5 亿美元估值,,股东包括 Lightspeed、Founders Fund、Intel Capital、微软 M12 和 Meta。。2025 年 8 月宣布 Inworld Runtime 后,,公司重心转向消耗级 AI 应用的基础设施,,Router 是其中的焦点组件。。

为什么值得关注:两点差别化。。一是路由依据:大都 Router 只看文本,,Inworld Router 与自家实时语音层买通,,声学信号——语言人的情绪、年岁、犹豫、语言——直接加入模子选择,,这在语音 Agent 场景里是纯文本路由做不到的。。二是商业模式:它同时路由到 220 多个第三方模子和跑在自家基础设施上的开源模子(Gemma 4、DeepSeek、GLM 等),,用亚秒级首 Token 延迟和低本钱推理,,接住被路由下来的简朴请求。。今年 6 月它还把语音产品价钱砍掉一半以上,,明确亮相要帮消耗级 AI 创业公司把账算得过来——路由在这里是获客入口,,推理才是生意。。

值得思索:既当裁判又当运发动。。Inworld Router 决议请求去哪,,而候选名单里就有自家模子,,这与 OpenRouter 引以为傲的中立性正好相反——路由的公正性和一方推理的利润率之间,,保存结构性的张力。。另外,,声学信号路由的价值现在主要限于语音优先的消耗应用,,这个市场自己还没有被验证;;;从游戏 NPC 到 AI 基础设施,,这已经是这家公司的第二次转身。。

官网链接:https://inworld.ai

二、组织模子:用协作结构更强的智能

1、vLLM Semantic Router

一句话先容:vLLM Semantic Router 会先判断请求的难度、风险、本钱和名堂要求,,再决议挪用一个模子,,照旧组织多个模子分工、验证和合成谜底。。

团队配景:这是 vLLM 生态中的开源研究型项目,,现在在 GitHub 上已获 4.9k Star。。在手艺蹊径上,,Semantic Router 先抽取领域、难度、清静和上下文等语义信号,,再凭证这些信号选择差别的“路由配方”,,即可以选择简单模子,,也可以运行模子升级、并行集成、重复推理、Fusion 或带有 planner、worker、verifier 的受控事情流。。

为什么值得关注:vLLM Semantic Router 不但是决议“把请求发给谁”,,而是决议“这次请求需要怎样的推理历程”。。简朴使命可以直接交给一个低本钱模子;;;不确准时逐级升级;;;重大使命则启动多个模子协作,,同时控制预算、并发、超时和回退。。外貌上看,,整个历程仍然体现为一次通俗的模子挪用,,但深层上代表 Router 从模子选择层进一步进入能力结构层。。

值得思索:本项目意味着 Router 正在肩负原本属于 Agent 框架、推理服务和清静系统的职责。。这样可以镌汰应用层重复搭建事情流,,却也可能形成一个很是重大的新中心层。。此类差别路由配方能否在真实营业中稳固提升效果、抵消特殊本钱,,仍需要更多自力验证。。

网站链接:https://vllm-semantic-router.com/

2、Sakana Fugu

一句话先容:One Model to Command Them All

Fugu 是一个会组织其他模子事情的模子:它可以自己回覆,,也可以凭证使命动态召集多个专家模子,,安排分工、检查效果并合成最终谜底。。Fugu 于 2026 年 4 月开放测试,,6 月正式宣布。。

团队配景:Fugu 来自日本 Sakana AI。。公司由前 Google 研究员 David Ha、Transformer 论文作者 Llion Jones 等人建设,,恒久研究模子合并、群体智能和多智能体协作。。公司于 2025 年 11 月宣布 B 轮融资,,并在 2026 年继续扩募,,最终融资约 2 亿美元,,累计融资约 4.12 亿美元。。此前没有加入 A 轮的 Google,,也在这一阶段通过战略投资进入股东名单。。

为什么值得关注:Fugu 延续 Trinity 和 The Conductor 等研究,,接纳学习式模子编排:不是预先写死事情流,,而是训练一个模子学习何时委派、委派给谁、怎样验证和整合效果。。大都 Router 只是在候选模子中选一个,,Fugu 把“怎样使用其他模子”自己酿成了一个模子能力,,意味着 Router 可能从分类器或规则系统,,生长成能够凭证使命动态天生协作结构的智能调理者。。

值得思索:多模子协作可以提升能力上限,,但也会增添挪用本钱、延迟和过失撒播路径。。学习式编排还带来新的黑箱问题:用户很难展望它会挪用几多模子、为什么这样分工,,以及能力提升是否值得特殊本钱。。现在来看,,Fugu 并不自制,,API 和订阅制价钱完全是对标旗舰模子。。同时,,Fugu 给人的感受照旧“中转站”,,底层能力仍被掌握在 OpenAI、Anthropic 手中。。当上游模子厂商调解价钱、限制挪用,,甚至亲自推出类似的多模子调理能力时,,Fugu 的壁垒事实有多深??

网站链接:https://sakana.ai/fugu/

三、管住挪用:接入、治理与结算

前两类 Router 回覆的是“这个使命该给谁”。。唬I杏幸焕嗤婕易龅氖橇硪患事:先成为所有挪用必经的那一层,,再决议这一层上长出什么。。对它们来说,,路由是入口,,不是终点——终点是账单、权限和数据的控制权。。

1、LiteLLM(BerriAI)

一句话先容:LiteLLM 要做的是开源 AI 网关的标准,,一个 Python 署理把 100 多家供应商的 API 统一成 OpenAI 名堂,,随手接受了路由、限流和本钱记账。。

团队配景:YC W23 项目,,首创人 Krrish Dholakia 和 Ishaan Jaffer 原本在做 chat-with-your-data 产品,,被各家 API 互不兼容的挪用逻辑折磨,,索性把这部分笼统成一个包,,2023 年 8 月开源。。融资只有约 160 万美元种子轮,,团队至今 10 人左右。。

为什么值得关注:资源效率的极端样本。。10 个人、不到 200 万美元融资,,做到 GitHub 超 4.5 万 Star、2.4 亿次 Docker 拉取,,天天路由数亿次 LLM 挪用,,客户包括 NASA、Netflix、Adobe、Stripe,,招聘页自曝 ARR 已到 700 万美元。。它还在随着协议扩张统领规模,,已经兼做 MCP 网关和 Agent-to-Agent 网关——路由的工具从模子悄悄扩展到了工具和智能体。。

值得思索:LiteLLM 证实这一层的手艺门槛不高,,高的是默认职位,,而开源是拿到默认职位最快的路径:Netflix 的工程师说,,新模子宣布后一天内内部就能用上。。价钱同样清晰,,今年 3 月它履历了一次供应链清静事务——当你是所有人 AI 栈的单点,,你也是所有人的单点故障。。它和 OpenRouter 着实是统一层的两种运气:一个把这层做成收租的市场,,一个做成免费的水电。。最终界说这个品类的会是哪种形态,,比谁的算法更智慧更值得追问。。

官网链接:https://litellm.ai

2、nexos.ai

一句话先容:nexos.ai 给企业和所有 LLM 之间加了一其中立中心层,,自称“LLM 界的瑞士”。。路由在这里服务的不是省钱,,而是清静、合规和数据主权。。

团队配景: Nord Security 两位首创人 Tomas Okmanas 和 Eimantas Sabaliauskas 的二次创业。。2025 年 1 月出 stealth 时拿到 Index Ventures 领投的 800 万美元种子轮,,10 月完成 3000 万欧元 A 轮,,估值约 3 亿欧元——从 launch 到 3.5 亿美元估值不到一年。。天使名单包括 Datadog、Klarna、Supercell 的 CEO 和 Wix 首创人,,近期还宣布了与 CrowdStrike 的相助。。

为什么值得关注:它证实 Router 的买单方纷歧定是 CTO,,可以是 CISO 和董事会。。首创人的判断是,,员工向 ChatGPT 上传敏感数据正在酿成“史上最大的企业数据泄露”,,与其禁用不如做中心人:员工使用 AI Workspace,,开发者走 AI Gateway 接入约 200 个模子,,网关同时肩负清静、本钱和合规的控制职能。。欧洲的数据主权焦虑给了它一个美国偕行吃不到的市场,,公共机构已经在敲门。。

值得思索:统一个手艺形态,,在美国被定价为流量生意,,在欧洲被定价为合规生意。。nexos.ai 卖的事实是路由,,照旧 合规生意在 AI 时代的复刻——流量经我、战略在我、日志归我??若是是后者,,Router 在这里只是壳,,真正的产品是治理。。这对判断这一层的终局反而更有价值:路由能力自己不值钱,,值钱的是路由带来的位置。。

官网链接:https://nexos.ai

点个“爱心”,,再走 吧

现在,,热棒已进化到第二代——太阳能热棒。。它使用高原强太阳辐射和昼夜温差,,实现光热协同制冷。。“这意味着,,太阳能热棒一年四序都能事情,,制冷能力是通俗热棒的1.5倍,,且为零碳手艺。。”中铁科研院西北院党委书记梁栋说。。

责任编辑:李名祯

【网站地图】