允中 发自 凹非寺量子位 | 公众号 QbitAI
写代码、做研究、处理日常事务,,,,,,Agent已经渗透进人们事情与生涯的方方面面。。。。。
但能通过试点验证、真正进入生产系统的,,,,,,仍是少数。。。。。
从服务个人到支持数万名员工7×24小时运行,,,,,,中距离着一整套工程与治理问题:
集群怎样弹性扩展、资源怎样有用使用、疏散的多智能体怎样统一治理、数据与权限怎样隔离,,,,,,以及规;;;;;诵械谋厩跹刂。。。。。
克日,,,,,,由华为2012实验室、华为云、终端、盘算等团队联合构建的openJiuwen开源AI Agent平台宣布了企业级漫衍式蜂群架构,,,,,,把JiuwenSwarm蜂群能力,,,,,,扩展到企业级漫衍式集群。。。。。
架构还内置了openJiuwen独吞的算力亲和能力,,,,,,与底层昇腾、鲲鹏算力基础设施亲和,,,,,,有用降低智能体规;;;;;诵斜厩⑻嵘诵行。。。。。
中国邮政储备银行也已基于该架构构建了金融领域蜂群智能体平台,,,,,,并落地到其生产情形——这也是漫衍式蜂群架构首次乐成落地企业级生产情形。。。。。
关于一个以合规严苛著称的行业来说,,,,,,这是一个值得关注的信号。。。。。
企业Agent规;;;;;,,,,,,必需跨过四道门槛
单机蜂群已经证实晰一件事:多个智能体通过使命分工和协同执行,,,,,,确实能够提升重大使命的处理效率。。。。。
但企业需要的历来不但是“组建一支智能体团队”,,,,,,而是同时支持多部分、多场景、多用户使用,,,,,,并包管服务一连性。。。。。
第一道是规模。。。。。
单机算力是硬约束,,,,,,智能体数目、并发使命数、单使命时长都被物理资源锁死,,,,,,难以支持企业岑岭期的大规模会见和长时间运行。。。。。
第二道是本钱。。。。。
按用户或按营业划分安排自力实例,,,,,,是最直接的做法,,,,,,也是本钱最高的做法:低峰期资源闲置,,,,,,岑岭期又容量缺乏;;;;;随着应用增多,,,,,,重复建设和运维本钱一连上升。。。。。
别的,,,,,,大规模智能体长时运行,,,,,,其Token消耗也是一笔禁止忽视的本钱。。。。。
第三道是治理。。。。。
权限、设置、资源、运行战略需要统一口径,,,,,,跨部分协作、变换要留痕,,,,,,全链路要可审计。。。。。
疏散的单机实例自然形成孤岛,,,,,,难以建设一致的治理系统。。。。。
第四道是清静。。。。。
金融这类高合规行业,,,,,,对身份认证、数据隔离、手艺准入、敏感信息;;;;;ず托形匪荻加醒峡嵋。。。。。
当差别用户、部分、营业共享统一套情形,,,,,,数据界线必需清晰、权限必需最小化、操作必需可回溯。。。。。
这四条并不自力,,,,,,反而相互制约:控制本钱要求资源共享,,,,,,包管清静要求强隔离;;;;;实现弹性要求动态调理,,,,,,落实治理要求设置收口。。。。。
openJiuwen这次给出的方案,,,,,,实质上是在这四者之间追求可落地的工程平衡。。。。。
openJiuwen企业级漫衍式蜂群架构
企业级漫衍式蜂群架构不是把单机版本简朴搬到云上,,,,,,而是围绕企业生产要求构建整套漫衍式蜂群组网系统
平台以企业集群资源为基础,,,,,,统一承载智能体接入、运行、协作、治理与清静能力,,,,,,让差别部分和营业场景共享基础设施,,,,,,同时坚持各自清晰的权限与数据界线。。。。。
如下图所示,,,,,,整套架构自上而下分为接入层、框架层、漫衍式运行时层与系统服务层,,,,,,笼罩从用户与治理入口、网关与焦点引擎、漫衍式调理执行,,,,,,到清静沙箱与存储的完整链路。。。。。
企业知识库、手艺客栈等已有能力可通过企业中心件与系统直接接入与复用。。。。。
值得一提的是openJiuwen特有的算力亲和设计,,,,,,即与底层昇腾、鲲鹏算力基础设施亲和:
支持Agent运行历程中上下文与KV Cache自动亲和,,,,,,缓解长时运行中上下文频仍刷新导致的缓存失效问题,,,,,,同时对通算、智算资源统一调理,,,,,,使命优先级动态排布,,,,,,降时延、提吞吐、省Token,,,,,,是企业级规;;;;;诵薪当驹鲂У囊ι杓。。。。。
在生产安排形态上,,,,,,这套系统与企业存量情形的衔接同样有明确设计:
企业用户与治理员统一通过JiuwenSwarm Gateway接入,,,,,,网关对接企业已有的用户身份系统完成认证鉴权,,,,,,无需另建账号;;;;;
Agent实例按个人专用单容器、部分共用容器集群两种形态安排,,,,,,既可以是单个Swarm Agent,,,,,,也可以是一个TeamLeader向导多个Teammate的协作团队,,,,,,每个成员绑定自力workspace(事情空间);;;;;
手艺与工具统一下沉到沙箱资源池中隔离执行,,,,,,通过API可挪用企业存量营业服务与自建SkillHub。。。。。
从组网架构到安排形态,,,,,,整套设计围绕的是统一个焦点命题:
怎样让蜂群智能体在共享企业集群资源的同时,,,,,,守住每个租户、每个用户、每个实例的界线。。。。。
落到企业最体贴的问题上,,,,,,这套系统体现为四方面能力。。。。。
弹性扩展,,,,,,支持多场景并行运行。。。。。
智能体不再受单台机械限制,,,,,,可按使命规模挪用集群资源。。。。。稳固支持重大长时使命、批量处理或营业会见岑岭。。。。。
资源共享,,,,,,降低规;;;;;褂帽厩。。。。。
疏散安排转变为共享资源池,,,,,,按营业需求动态分配与接纳资源,,,,,,既镌汰恒久空闲铺张,,,,,,也阻止为每个场景重复搭建情形。。。。。
统一治理,,,,,,让规模增添坚持可控。。。。。
平台对组织、用户和智能体举行统一治理,,,,,,治理员与营业用户分级授权,,,,,,要害操作全程留痕,,,,,,可监控、可审计、可追溯。。。。。
纵深防护,,,,,,知足高合规行业要求。。。。。
认证、授权、隔离和数据;;;;;す岽悄芴逶诵腥鞒,,,,,,差别租户、用户和实例之间明确界线,,,,,,为金融等行业的生产安排建设清静底线。。。。。
通过这套能力,,,,,,企业可以在统一平台上建设面向差别部分的智能体应用:既让资源获得复用,,,,,,又让权限、数据和营业责任相互隔离;;;;;既支持快速扩展新场景,,,,,,也能坚持统一治理。。。。。
落地邮储:打造清静可靠的金融AI平台底座
此次生产落地要解决的焦点问题,,,,,,不在于让某个Agent跑通一次使命,,,,,,而在于让蜂群智能体融进一套已经运行多年的营业系统,,,,,,并同时知足金融行业在规模、清静与治理上的严酷要求。。。。。
中国邮政储备银行已有员工SSO(企业单点身份验证机制)、自建SkillHub和大宗存量营业系统。。。。。
openJiuwen将邮储这些数据资源、企业手艺和营业服务接入统一的蜂群智能体平台,,,,,,整个对接在不改变原有系统与权限界线的条件下完成,,,,,,让Agent在授权规模内挪用存量能力,,,,,,把智能体协作嵌入现实营业流程
在此基础上,,,,,,平台逐一回应了金融生产情形的三方面要求。。。。。
面临大规模使用需求,,,,,,平台通过资源共享和按需弹性调理,,,,,,承接高并发会见与多智能体协作,,,,,,在包管稳固运行的同时提升资源使用效率、控制使用本钱。。。。。
面临金融级清静要求,,,,,,平台对工具和手艺实验统一准入与授权,,,,,,在隔离情形中执行,,,,,,并对使命、协作和挪用全历程举行全链路视察与审计——每一次挪用由谁提倡、经由哪个Agent、会见了哪个系统,,,,,,均可回溯。。。。。
面临企业治理要求,,,,,,平台支持手艺统一上下架、用户与群组动态设置、Agent设置集中下发,,,,,,让差别营业共享平台能力,,,,,,同时坚持清晰的权限和数据界线。。。。。
现在,,,,,,邮储已将蜂群智能体平台周全投入生产,,,,,,重点应用于三类场景。。。。。
智慧办公:协助员工预约聚会、建设准时使命、整理聚会纪要,,,,,,并在授权规模内挪用企业自界说手艺与工具。。。。。这类使命单项规模不大,,,,,,但频次高、笼罩面广,,,,,,对日常办公效率的改善最为直接。。。。。情报监测:智能体一连开展信息收罗、剖析研判与多渠道推送,,,,,,缩短从信息泛起到营业职员获知的链路。。。。。风险预警:一连跟踪风险信号并实时触达相关职员,,,,,,推动风险识别前移。。。。。
邮储的生产实践批注,,,,,,蜂群智能体规;;;;;涞氐囊,,,,,,在于与存量系统顺畅衔接,,,,,,并在规模、本钱、清静和治理之间取得平衡。。。。。
一个多租户、可共享、强隔离、可审计的企业级Agent平台,,,,,,由此得以在金融生产情形中稳固运行。。。。。
从「能用」走向「规;;;;;涞亍
回到开头的判断:Agent的企业级竞争已经越过Demo阶段。。。。。
能否从试点验证走向规;;;;;,,,,,,比拼的不再是单个智能体有多智慧,,,,,,而是底层平台能否同时跨过规模、本钱、治理、清静四道门槛。。。。。
openJiuwen给出的谜底,,,,,,是以高扩展、低本钱、强管控和高清静为焦点的企业级蜂群架构。。。。。
这四个要害词逐一对应四道门槛,,,,,,为企业建设统一智能体基础设施提供了一条清晰路径。。。。。
邮储的生产落地则把这条路径放到了真实压力下磨练,,,,,,作为蜂群智能体在企业级生产情形的首次落地,,,,,,它给出的不但是一张架构图,,,,,,更是一份可复制的工程实践样本。。。。。
而这份样本的最终指向,,,,,,是让AI Agent真正成为可一连创立营业价值的新型生产力。。。。。
从个人事情台到企业集群,,,,,,从试点验证到生产落地,,,,,,这条路径已经被完整走通了。。。。。
随着openJiuwen与更多行业同伴推进企业级智能体协作能力建设,,,,,,从「能用」到「规;;;;;涞亍沟目缭,,,,,,将在更多行业爆发。。。。。
openJiuwen已所有开源,,,,,,接待到社区体验与共建
GitHub: https://github.com/openJiuwen-aiAtomGit: https://atomgit.com/openJiuwen