软件先容

奔驰在线老使用指南

第一步：导入文件

翻开软件，，，点击"?添加 奔驰在线老"按钮，，，从电脑中选择《奔驰在线老》文件，，，或直接将其拖拽至软件界面中。。。。。

第二步：设置剖析

软件会自动识别并剖析导入的文件，，，您可凭证界面提醒选择所需的生涯路径或下载名堂。。。。。

第三步：最先下载

确认无误后，，，点击"最先下载/处理"按钮。。。。。期待进度条读取完毕，，，即可在设定的文件夹中审查下载好的正版文件。。。。。

阿里云WAIC论坛： “AI爆发不靠一两颗芯片”、SaaS将转向“按效果付费”、模子不再是唯一焦点，，，奔驰在线老

当AI从“能说会写”走向“能做会干”，，，云盘算的焦点用户、SaaS的收费方式、企业AI落地的基础设施，，，正在被智能体重新界说。。。。。

2026天下人工智能大会时代，，，在上海举行的阿里云“Agentic Cloud智能体时代的基础设施论坛”上，，，阿里云及工业同伴围绕Agent Infra、Agentic Products、AI Native Cloud、Data Plane、Security等议题，，，披露了多项产品希望、工业案例和基础设施数据。。。。。

这场论坛没有给出新的财务收入增速、订单或业绩指引，，，但从市场关注的角度看，，，阿里云释放的焦点信号是：AI云的竞争正在从简单模子能力，，，扩展到推理效率、数据平台、Agent运行时、清静治理以及面向营业效果的交付能力。。。。；；痪浠八，，，AI云的商业化想象空间，，，正在从“卖算力、卖模子挪用”，，，进一步走向“支持智能体完成营业效果”。。。。。

“模子不再是唯一焦点”，，，SaaS或从订阅转向按效果付费

在论坛对话环节，，，阿里云智能集团首席手艺官李飞飞与PyTorch Foundation执行董事Mark Collier讨论了AI基础设施的演进。。。。。

Mark提出一个要害判断：“模子自己不再是唯一的焦点。。。。。模子虽然很是主要，，，它是智能体的大脑。。。。。”他以为，，，企业未来会同时使用多个模子、自研专用模子，，，或将开放权重模子定制成更小、更大、更专业的版本，，，“你不但需要调理智能体自己，，，还需要让智能体与所使用的模子解耦。。。。。”

李飞飞则从商业模式角度进一步指出，，，SaaS行业的定价逻辑可能爆发转变：

“纵观整个SaaS行业，，，企业购置软件服务是按效果付费订阅，，，而不是按资源消耗量——CPU周期或内存使用量——来定价的。。。。。”

他判断，，，市场将很快迁徙到智能体服务模式：

“这些智能体旨在解决特定使命和特定问题，，，而客户为最终效果付费。。。。。”

Mark也给出同样偏向的判断：

“客户会说：我不在乎本钱，，，我不在乎需要几多GPU，，，我只想为效果付费。。。。。但总得有人为所有这些GPU和数据中心买单。。。。。”

这意味着，，，对云厂商而言，，，后端基础设施的推理效率和本钱优化仍是要害。。。。。Mark提到，，，DeepSeek推理软件优化案例显示，，，“六个月内，，，token本钱降低了60%”，，，并且“在完全相同的硬件上实现了近三倍的吞吐量”。。。。。

Token、Agent、数据库实例：需求侧指标最先取代简单模子叙事

国家信息中心副主任盛磊在开场演讲中体现，，，智能体正在从看法走向规模落地，，，人工智能也在从“能说会写”迈向“能做会干”。。。。。

他提出，，，智能经济时代的焦点计量方式正在转变：

“工业经济看千瓦时，，，互联网经济看流量、看比特，，，到了智能经济时代，，，Token正在成为权衡AI现实生产力的主要标尺。。。。。”

盛磊披露，，，中国日均Token挪用量“两年内突破140万亿次”。。。。。他还体现，，，未来算力服务模式将国际化，，，探索“离岸算力、来数加工、Token出海等新形态”。。。。。

在云资源使用侧，，，阿里云数据库认真人杨辛军给出更直接的转变：云的第一用户正在从人酿成智能体。。。。。

他体现，，，Databricks数据显示，，，“80%的数据库实例是由agentic创立的，，，97%的分支是由agent建设的”。。。。。阿里云也视察到类似趋势：

“凯时AGPostgreSQL数据库最近是有80%是由agent建设的。。。。。”

更详细的数据是：

“已往整整5年，，，整个PostgreSQL数据库差未几创立了4万个实例，，，最近我们在已往的几个月当中就看到agent建设了差未几12万个数据库。。。。。”

杨辛军称，，，Agent自主建设数据库的环比增速抵达300%。。。。。他总结说：

“数据是越来越成为一个企业AI落地的财产所在。。。。。”

阿里云推KV缓存、Agentic FS等基础设施，，，称全栈AI云服务份额40.1%

阿里云智能集团研发副总裁、弹性盘算认真人吴结生在演讲中体现，，，阿里云是“全球少数几个具备全栈AI基础设施能力的云服务商”，，，其全栈能力笼罩IDC、自研硬件和芯片、云产品服务、千问大模子和百炼推理服务。。。。。

他披露，，，阿里云全栈AI云服务市场份额为40.1%，，，并称“海内至少有一半的大模子公司都跑在阿里云上面”。。。。。

在训练侧，，，阿里云宣布基于平头哥真武M890 AI芯片、ICN Switch 1.0芯片和磐久AI超等服务器节点的“超节点实例”。。。。。单个超节点设置64张卡，，，卡间互联速率达800GB，，，每张M890芯片设置144G显存，，，整体超节点显存抵达9TB。。。。。

吴结生称，，，M890最新芯片在一些大模子训练测试中，，，训练性能较上一代8101提升3倍。。。。。

在推理侧，，，阿里云宣布新的KV Cache Store存储系统，，，以应对长上下文、多轮对话下KV Cache数据爆发式增添。。。。。吴结生体现，，，客户POC验证中，，，KV Cache Store“可以提高缓存掷中率高达20%”，，，从而降低推理本钱、提高推理效率。。。。。

他还提到，，，阿里云TokenWorks可使模子上线“从几天下降到几十分钟”；；基于容器的推理方案可将冷启动时延降低高达90%，，，部分客户GPU使用率提升35%，，，每个Token平均输出耗时降低60%。。。。。

面向Agent运行时，，，阿里云推出清静隔离沙箱、Agentic FS等能力。。。。。吴结生称，，，阿里云可支持“每分钟快速拉起10万级别沙箱”，，，单区域支持百万级沙箱规模；；冷启动时间可达百毫秒级，，，热启动时间为10毫秒级。。。。。

“AI爆发不靠一两颗芯片”，，，平头哥开源Seal软件栈

平头哥半导体副总裁高慧体现，，，智能体应用正在重塑数据中心负载，，，高频协同、工具挪用、长上下文推理都在挑战算力使用率和TCO。。。。。

她强调：

“这些问题靠升级一颗芯片、两颗芯片是解决不了的，，，需要在系统级做整体解决方案。。。。。”

平头哥的回覆是算、存、网全栈升级。。。。。高慧披露，，，真武芯片阻止今年4月已经出货56万片，，，服务20多个行业、400多家客户，，，成为“海内应用场景最普遍的AI芯片”。。。。。

同时，，，平头哥正式宣布Seal软件栈开源开放。。。。。高慧诠释：

“AI时代的真正爆发，，，不是来自于某一颗、某两颗真正强的芯片，，，而会来自一套更开放、更协同、更高效的全栈算力系统。。。。。”

她还给出生态适配数据：GitHub上Star大于10的主流AI客栈有3277个，，，Seal已适配其中3248个；；同时笼罩PyTorch、TensorFlow、vLLM、SGLang等260多个主流训练推理框架。。。。。

智能体落地工业：满帮称司机使用率从15%升至35%，，，货源响应可缩至3-5分钟

满帮集团AI算法总监高艺铭从物盛行业给出了Agent落地的案例。。。。。他体现，，，物流平台Agent化的实质是：

“从人操作软件走到人托管目的。。。。。”

在货运场景中，，，司机不是来APP上“刷货”，，，而是有明确目的：去哪、赚几多钱、能不可装、愿不肯意空驶。。。。。高艺铭说：

“司机的agent不是回覆每一句话，，，而是要明确上下文，，，维护状态，，，把目的转化成可执行的妄想。。。。。”

满帮上线相关Agent系统后，，，司机使用率从15%提升到35%，，，使用过一次后的下次留存为71%。。。。。他还披露，，，司机天天平均会花169分钟在平台上看货，，，“或许是2.5个小时，，，他生掷中的10%”。。。。。

高艺铭体现，，，若是百万司机都将目的托管给系统，，，平台供应将“翻10倍”；；货源发出后的响应时间，，，也有望从十几二十分钟缩短到3分钟、5分钟。。。。。

他总结平台未来形态：

“Agent认真处理不确定性，，，而工程认真执行确定性。。。。。最后平台界说怎么样可信的协作。。。。。”

从Demo到生产，，，企业需要“可治理、可审计、可复用”的Agent平台

阿里云智能集团云原生应用平台认真人周琦指出，，，已往一年市场看到了大宗令人兴奋的Agent Demo，，，但“Demo和生产之距离着一条很是深的鸿沟”。。。。。

他以为，，，企业真正的挑战不是有没有Agent，，，而是怎样让Agent“跨角色、跨系统、跨界线”进入企业流程，，，并稳固协作。。。。。

阿里云提出企业智能体三层架构：Infra、Desktop和Platform。。。。。其中Infra提供可信运行情形，，，Desktop让Agent进入真实事情情形，，，Platform则认真构建、治理、协作和进化。。。。。

周琦披露，，，在阿里云云原生团队内部，，，已通过Agent系统串联开源开发、治理、答疑和质量跟踪。。。。。现在运行15个Agent，，，提供7×24小时在线服务，，，肩负85%的手艺答疑，，，使运营支持时长降低90%，，，需求响应时间从7天压缩至1天。。。。。

“企业最终拥有的不是一批Agent，，，而是一台一连生产Agent、一连优化施展其价值的企业事情流。。。。。”

应用交付侧：秒悟团队版、Enter强调“从天生代码到交付价值”

在应用天生层面，，，阿里巴巴ATH事业部MASS营业线秒悟副认真人周恒民宣布秒悟团队版。。。。。他体现，，，秒悟定位为“人人可用的AI应用创作平台”，，，用户可通过自然语言天生网站、小程序、APP等，，，并一键宣布为可会见的生产级应用。。。。。

周恒民披露，，，阻止论坛当天，，，天天有上万名用户在秒悟上创作和宣布，，，大部分没有手艺配景，，，包括产品司理、运营、先生、学生、设计师和创业者。。。。。

团队版则解决企业体贴的统一采购、资源共享、资产转交、权限治理和团队协同问题。。。。。周恒民称：

“秒悟团队版完成的是从个人工具到组织生产力平台的升级。。。。。”

Andr Pro产品认真人龙东恒则从“Delivery Agent”角度强调，，，天生代码只是第一步，，，真正的营业系统还需要数据、安排、权限、清静和一连运营。。。。。

“人可以不懂Infra，，，但Agent必需更懂Infra。。。。。”

在他看来，，，用户说“帮我做一个点菜系统”，，，Agent要做的不但是把网页做出来，，，还要“把数据库搭起来、域名分配好、网站安排完”。。。。。他总结：

“Coding Agent更关注代码，，，而Delivery Agent更关注全局。。。。。”

清静成为规；；跫：近40% Agent项目或因清静风险失败

阿里云智能集团云清静产品认真人祝建跃提醒，，，Agent越自主，，，清静界线越主要。。。。。他体现，，，机械身份数目已经凌驾人类，，，企业正处在人与Agent共生的情形中。。。。。

他引用数据称，，，57%的企业已经安排Agent，，，但Gartner预计，，，近40%的项目会由于清静风险管控问题失败。。。。。

祝建跃强调：

“Agent清静在当下不再是一个可选项，，，它是营业生长当中的必选项，，，否则你的Agent只会成为一个准时的炸弹。。。。。”

阿里云提出Infra层、模子推理服务层、Agent应用层三层统一防护，，，并宣布Agent清静中心能力，，，包括资产识别、误差检测、AI Red Team、运行时清静、日志溯源等。。。。。祝建跃称，，，阿里云已上线150项针对Agent误差的检测能力，，，并将运行时清静能力融入百炼和AI清静网关，，，全链路延时控制在100-120毫秒以内。。。。。

以下是论坛实录

主持人 00:01一次对效率的思索，，，代码组成了最初的探索。。。。。一次对机械灵魂的畅想，，，让逾越有了可能。。。。。当 Token 爆发，，，当自主行动实现，，，于是进化最先。。。。。成为了指挥家，，，指挥一个个硅基的头脑。。。。。成为了学者，，，更专业，，，除了knowledge，，，还拥有了skills。。。。。当进化螺旋上升，，，智能一连进化，，，就在每一天，，，在每一处生产力所需的地方，，，在现在进化。。。。。主持人 01:09接待来到 Agentic 时代！主持人 01:17接待来到 2026 天下人工智能大会，，，由阿里云主理的 Agentic Cloud 智能体时代的基础设施论坛。。。。。当智能体成为云盘算的第一用户，，，基础设施的每一次进化，，，都在重塑 AI 与天下交互的方式。。。。。今天我们围绕智能体原生的云、 AI 原生的云、清静等五大议题睁开手艺拆解与对话，，，展现 AI 全栈能力怎样驱动 Agent 落地千行百业。。。。。首先有请国家信息中心副主任盛磊带来开场演讲，，，智能体手艺的新浪潮与新基座，，，掌声接待！

国家信息中心副主任盛磊：探索“离岸算力、来数加工、 Token出海”等新形态

盛磊 02:13尊重的列位来宾，，，很是兴奋与各人相聚上海，，，在这里配合探讨人工智能的时代之问。。。。。生长之问。。。。。总书记强调，，，人工智能作为引领新一轮科技革命和工业厘革的战略性手艺，，，深刻改变人类生爆发涯方式。。。。。围绕人工智能生长，，，我国始终坚持系统结构、分业施策、开放共享、清静可控，，，推感人工智能与经济社会各领域深度融合，，，开创了人工智能加蓬勃生长的新时势。。。。。

盛磊 02:59今天，，，当智能体从看法热议走向规模落地，，，当人工智能从能说会写迈向能做会干，，，我们面临一个要害问题，，，以智能体为代表的人工智能手艺会掀起怎样的厘革
？？？？而支持这场厘革的基础是否已经停当
？？？？我想重新浪潮和新基座两个维度来分享我的思索。。。。；；赝，，，从早期的符号系统到强化学习，，，再到大语言模子驱动的智能体，，，手艺迭代的节奏一直加速。。。。。今天的智能体已成为了有妄想能力、会挪用工具、能自主执行的数字劳动者。。。。。这不是功效层面的简朴叠加，，，而是生长范式的深层跃迁，，，其影响是全方位的。。。。。在工业端，，，智能原生正在重构价值创立的逻辑。。。。。智能原生不是给古板产品加一个 AI 功效，，，而是从设计之初就以人工智能为焦点引擎。。。。。数据驱动进化，，，辖档同续迭代，，，智能原生企业催生智能原生产品，，，智能原生产品孕育智能原生的消耗，，，一条全新的价值链条正在逐步形成。。。。。盛磊 04:25陪同智能原生而来的是 Token 经济的衍生。。。。。工业经济看千瓦时，，，互联网经济看流量、看比特，，，到了智能经济时代，，， Token 正在成为权衡 AI 现实生产力的主要标尺。。。。。中国日均 Token 挪用量两年内突破 140 万亿次，，，这个数字的背后是蓬勃生长的。。。。。盛磊 04:52强劲脉搏。。。。。在社会侧，，，这场浪潮也正在重塑社会运行的形态，，，人机共生正在从看法走向现实，，，机械不再是酷寒的生产工具，，，而是具备共情属性的。。。。。数字同伴，，，工厂车间里、医院诊室中、校园课堂上、社区街巷间，，，虚实融合的界线正在消融，，，感知交互的壁垒一连消解，，，人机共生的社会图景正在向我们泛起。。。。。盛磊 05:35放眼全球，，，这场浪潮还在重塑全球工业的名堂，，，从服务用智、行业富智，，，到产品载智、原生数智。。。。。四类工业出海模式层层递进，，，从物理货物商业到数智服务商业，，，从制制品输出到制造能力输出，，，从接入全球工业链到界说全球价值链，，，从企业单兵出海到能力系统出海，，，四重全球生长潜力一连的释放，，，我们正在以智能手艺为全球生长孝顺实着实在的中国实力。。。。。盛磊 06:16智能体时代对算力基础设施提出的需求是倾覆性的。。。。。更智慧的智能体的背后，，，是参数规模指数攀升的大模子，，，训练与推理的算力需求海量增添，，，算力基础设施的手艺升级与规；；峁蛊仍诿冀。。。。。算力是数字经济时代的生产力，，，算力网是支持数字经济高质量生长的要害基础设施。。。。。中国近年加速构建天下一体化算力网。。。。。形成以八大国家算力枢纽、 10 个国家算力集群。。。。。三个算电协同生长区域为重点的 8 + 10 + 3 算力空间结构，，，天下算力基础设施总量规
？？？？焖僭鎏，，，算电协同深入推进，，，算网融合加速生长。。。。。十五妄想纲要将天下一体化算力网列入 109 项重大工程，，，算力网与水网、电网等并列六张网，，，今年的投资规模凌驾7万亿元。。。。。盛磊 07:29面向未来，，，我们要掌握五个生长趋势。。。。。一是智算中心建设集约化，，，破解 AI 算力荒的现实难题。。。。。二是区域算力结构协同化，，，实现天下算力动态平衡调理。。。。。三是算力设施生长绿色化，，，让算力运行跟上双碳目的程序。。。。。四是算力供应服务普惠化，，，打造数字时代的新市镇。。。。。五是算力服务模式国际化，，，探索离岸算力、来数加工、 Token 出海等新形态。。。。。同时，，，要统筹好五个关系。。。。。兼顾全局统筹与区域协同，，，算力供应与立异应用，，，手艺前瞻与普惠服务，，，规模建设与高效运营，，，自主可控与开放兼容，，，走出一条具有中国特色的算力生长蹊径。。。。。盛磊 08:29列位同仁，，，这是一场深刻的手艺厘革，，，浪潮之下没有人是旁观者，，，基座之上人人都是建设者。。。。。今年来，，，国家信息中心全方位、深条理、系统性开展人工智能生长战略妄想、政策研究。。。。。推进手艺、生态、形势剖析和研判，，，我们将始终与国家战略同频，，，与工业生长共振，，，配合推动中国人工智能事业行稳致远，，，谢谢各人！

阿里巴巴ATH事业部MASS 营业线秒悟副认真人周恒民：阿里宣布AI创作平台“秒悟”团队版，，，“完成从个人工具到组织生产力平台的升级”

主持人 09:20谢谢盛磊副主任，，，接下来进入产品重磅宣布环节，，，有请阿里巴巴 ATH 事业部 MASS 营业线秒悟副认真人周恒民，，，掌声接待。。。。。周恒民 09:45列位来宾，，，各人上午好！今天很是兴奋为各人先容秒悟，，，以及我们即将推出的秒悟团队版。。。。。已往几年，，，大模子手艺飞速生长，，，各人也已经不再知足于与 AI 谈天，，，而是希望他们能够帮我们完成更多的事情，，，甚至成为凯时AG数字员工。。。。。我们也一直在思索。。。。；；诳盇G特点，，，可以提供一款什么样的产品，，，能够让用户的想法快速的实现，，，能够酿成真正可以马上上线使用的应用。。。。。这就是秒悟降生的初志。。。。。周恒民 10:18我们把秒悟界说为人人可用的 AI 应用创作平台，，，它提供了几项焦点的能力。。。。。首先是全栈的天生能力，，，用户只需要通过自然语言跟它交互，，，就可以快速的天生网站、小程序、 APP 等。。。。。同时通过无缝的接入阿里云的底层资源，，，秒悟能够一站式的集成前后端数据库。。。。。登录认证、 AI 大模子等能力，，，知足差别场景的需求。。。。。周恒民 10:44其次，，，秒悟提供了极速天生的能力，，，通太过群模式，，，我们可以把重大的使命拆解成可并行的子使命，，，多个 agent 协同快速的研发，，，大幅的缩短开发时间。。。。；Ｉ杏泻苤饕囊坏闶且患嫉哪芰，，，许多 AI 工具可能是可以资助各人完成代码的撰写，，，可是呢，，，离真正的宣布尚有许多的事情要做。。。。。而秒悟在天生应用之后，，，能够通过一键宣布，，，让应用快速的上线，，，酿成可以真正会见的生产级应用。。。。。下面请各人看一个小短片。。。。。周恒民 12:10通过适才的先容，，，相信各人对秒悟的基本能力有了一个或许的相识。。。。。除了用户可以直接会见的网页端以外，，，我们还将秒悟一键安排的能力开放出来，，，推出了秒悟CLI。。。。。一个给 agent 使用的下令行工具。。。。。许多用户可能已经习惯通过种种 agent 去开发应用，，，好比Coder、 Codex 等。。。。。可是开发完成之后，，，仍然是保存于外地的项目，，，离真正的上线尚有许多事情要做。。。。。而秒悟的 CLI 希望资助 agent 完成应用的建设到宣布的最后一公里。。。。。通过引入秒悟CLI，，，用户可以使用自己熟悉的 agent 举行开发，，，再使用一条自然语言的指令，，，就可以完玉成栈应用的自动化安排。。。。。并且我们还为应用提供了免费的公网域名，，，让用户真正做到宣布。。。。。就可以使用，，，可以分享，，，可以撒播。。。。。周恒民 13:01秒悟照旧一款较量新的产品，，，从上线以来获得了很是多的用户的关注和使用，，，用户也为我们提供了很是多好的建议，，，催促我们一直的生长。。。。。阻止今天，，，天天有上万名用户在秒悟上举行创作，，，举行宣布，，，而他们大部分都是没有手艺配景的，，，有产品司理、运营，，，有先生、学生，，，尚有设计师，，，尚有创业者。。。。。他们在秒悟上建设了大宗的应用，，，有官网、适用工具等等，，，可以看到应用的创立者不再只是研发职员，，，而是每一个有想法的人。。。。。周恒民 13:37这里是一些用户的作品集，，，内里有界面很是雅观的手艺艺术的作品集，，，也有信息富厚的个人主页，，，尚有有趣的小游戏，，，尚有适用的小工具等。。。。。我们也发明很是多的企业场景的应用占比很是高，，，这里有三个案例，，，第一个是用于市场推广的营销工具，，，这里都是真实的客户的案例。。。。；Ｉ杏性诮逃【暗挠⒂镏悄苎捌教，，，以及面向外贸拓客的自力站等。。。。。随着企业用户的增添，，，我们发明个人版虽然能够资助个人完成快速的创作，，，但企业体贴的问题着实还没有被很好的解决。。。。。好比许多用户会问我们，，，统一采购怎么做
？？？？资源怎么共享
？？？？若是团队的职员流动，，，这些资产怎么去转交
？？？？以及权限怎么治理
？？？？尚有团队怎样协一律等，，，这些问题在个人工具层面都尚有待解决。。。。。因此今天我们推出秒悟团队版，，，在个人版的基础上，，，团队版提供了以下能力。。。。。周恒民 14:41首先是统一的身份治理，，，企业成员可以直接使用阿里云的。。。。。账号或 RAM 子账号直接登录，，，而不需要每个人去单独的注册。。。。。第二是统一的采购与额度管控，，，通过团队通过统一的采购席位、增购积分，，，治理员可以无邪的分配额度，，，让全员可用。。。。。第三是团队资产的共享与治理，，，无论是成员建设的应用，，，照旧团队建设的专属的手艺库以及底层的云资源，，，都可以归属于团队统一来治理。。。。。第四是细腻化的权限治理，，，我们支持所有者、治理者、通俗成员三种角色。。。。。让企业能够分角色治理授权，，，举行高效的协作。。。。；；谕哦影娴男鹿π，，，企业可以更好的实现资源的无邪设置，，，让每一份投入都获得更高效的使用。。。。。通过更清晰的权限治理，，，让秒悟可以真正成为整个团队配合的生产力工具。。。。。周恒民 15:41尚有很主要的一点，，，就是整个团队资产的沉淀。。。。。企业累积的不但是代码，，，尚有自己的应用生态、专属的手艺、营业的流程、领域知识等等。。。。。这些都会一连沉淀，，，成为企业恒久的数字资产。。。。。以是秒悟团队版完成的是从个人工具到组织生产力平台的升级。。。。。下面我简朴先容一下秒悟团队版的使用方式。。。。。我们可以，，，团队的认真人或企业的认真人可以通过统一订阅的方式，，，按年或者按月去购置，，，也支持凭证团队的规模去增减席位，，，以及通过凯时AG积分增购去全团队共享积分。。。。。在底层资源的方面，，，相关于个人版也提供了更强的底层资源支持，，，更多的 AI 创作资源，，，更多的存储资源，，，以及更高的并发。。。。；Ｉ杏型哦拥淖ㄒ底ㄊ舻氖忠湛獾鹊。。。。。别的我们还赠予 ICP 备案码，，，支持企业快速绑定的自己的自界说域名，，，进一步降低企业宣布生产级应用的门槛。。。。。周恒民 16:45最后，，，秒悟个人版希望资助每一个想法都能快速实现，，，而秒悟团队版希望资助每一个团队快速构建自己的应用生态，，，能够一连沉淀自己的数字资产。。。。。而在这背后，，，真正支持凯时AG能力是阿里云恒久积累的云盘算基础设施和整个 agent infra 系统。。。。。我们依托于阿里云的 agent infra，，，把 agent 需要的模子、工具、运行时、事情流、清静等基础设施。。。。。举行快速的集成与开放，，，也正由于有这样的能力，，，让秒悟能够一连迭代，，，一直进化。。。。。最后接待各人会见秒悟的官网试用，，，若是各人对团队版感兴趣，，，可以扫码留下各人的信息，，，我们会有事情职员去，，，为各人举行详细的先容，，，并提供免费试用的名额。。。。。我今天的分享就到这里，，，谢谢各人！

阿里云智能集团云原生应用平台认真人周琦：跨越“Demo与生产的深沟”、重构企业智能体三层架构

主持人 17:42谢谢周恒民先生。。。。。现在阿里云正式迈入 agentic cloud 时代。。。。。接下来有请阿里云智能集团云原生应用平台认真人周琦带来分享，，，阿里云 agent native cloud，，，让智能体成为企业原生的能力。。。。。周琦 18:16列位好。。。。。好，，，很是幸运能在 2026 天下人工智能大会阿里云的主题论坛上，，，和各人做一次交流。。。。。今天我想讨论的是，，，怎样让智能体成为企业原生的能力。。。。。已往一年，，，相信各人看到无数令人兴奋的demo，，， agent 可以写代码，，，可以构建工程，，，能够操作浏览器。。。。。但 demo 和生产之距离着一条很是深的鸿沟。。。。。 demo 展示的是焦点能力，，，生产则磨练的是。。。。。企业怎样把这样的一个能力转化为企业确定性的效果
？？？？当智能体成为企业的一个部分，，，开发者会问，，，怎样更快地构建智能体
？？？？则清静团队会体贴权限怎么管
？？？？怎样审计
？？？？营业团队会关注 agent 执行的效果是否稳固
？？？？价值能否权衡
？？？？而平台团队则会关注，，，当 agent 从 10 个酿成 1000 个，，，系统还能不可管得。。。。
？？？？以是真正的挑战历来不是企业有没有一个agent，，，而是让它跨角色、跨系统、跨界线的进入企业的流程，，，能够稳固的协作。。。。。周琦 19:32当 agent 可以自由的发邮件、改数据、操作界面、挪用客户系统时，，，权限、历程就和模子能力一样主要。。。。。因此，，，企业需要把智能体从一次性的系统交付的效果升级为可以一连建设、一连运营的生产力。。。。。要跨越这条鸿沟，，，我们需要重新明确企业的 agent 架构，，，它有三层，，，infra、 desktop 和platform。。。。。底层的 Infra 提供的是可信的运行情形，，，让 Agent 清静弹性的运行。。。。。而上层的 Desktop 毗连的是营业天下，，，让 Agent 进入真实的事情情形。。。。。而 Agent Platform 和 PASS 则是需要把 Agent 构建、治理、协作和进化统一起来，，，把人、模子、工具、数据和战略编排成真正可以交付的营业效果。。。。。这三层能力系统化的组成了智能体时代下的完整手艺栈。。。。。带来云上架构的演进和企业运营范式的升级。。。。。周琦 20:45我们先看一下 infra 层，，， infra 层的话呢，，，会由sandbox、数据、 file system 和 network 组成，，，为 agent 提供清静、弹性、低本钱的运行情形。。。。。这里最焦点的是 agent sandbox，，，它的能力可以拆解成四层。。。。。第一层是开箱即用的模板，，，支持开源社区的镜像，，，并内置 code, interpreter, browser, all in one sandbox 等等模板，，，开发者可以拿来即用。。。。。周琦 21:17在清静层面，，，我们提供了 microVM 和 VM 级的隔离能力，，，叠加网络、存储、会话等三重隔离，，，给开发者提供一个强隔离的情形。。。。。面临 agent 运行的负载，，，深休眠、浅休眠和按需叫醒手艺在容量低峰时可以将实例负载缩为零，，，提供面临长会话的低本钱的能力。。。。。面临高弹性的企业的特点，，，我们提供了快速挂载和弹性启动的能力。。。。。支持高规模的大并发调理。。。。。我们能看到，，，一个好的Infra，，，既要让 agent 能够铺开手脚干活，，，也要让企业始终掌握它的界线。。。。。但让 agent 真正跑起来只是第一步，，，当企业拥有越来越多的agent，，，真正需要的是一个统一的治理和控制平台。。。。。这内里包括统一的身份系统、统一的战略、统一的网关、统一的资产治理和控制系统，，，也包括统一的评估和怀抱。。。。。这些统一的背后配合在回覆三个基本的问题。。。。。他是谁
？？？？它能做什么
？？？？出了问题，，，谁能还原
？？？？谁能止损
？？？？这些谜底在第一天必需在进入要害流程之前，，，就被写入系统。。。。。这样，，，清静和治理的能力不再是营业上上线之后的补丁，，，而是成为 agent 自然具备的能力。。。。。这层能力的价值在于，，，它不是给团队提供一套流程，，，而是把清静、合规、版本、灰度等嵌入 agent 的生命周期中。。。。。周琦 23:01我们再来看看桌面，，，大宗要害的营业现在依然运行在桌面软件、专有 EXE 浏览器和企业的内网里，，，仅依赖 API 无法笼罩完整的天下。。。。。无影的 agentic computer 给 agent 提供一个 7 × 24 小时的完整桌面级运行情形，，，让它进入真实的事情现场，，，操作系统已有的软件和系统。。。。。这套桌面的操作系统能提供极致的体验，，，并且背后能够提供企业级 SLA 的能力。。。。。更主要的是，，，它不绕开企业既有的清静系统，，，而是复用已有的身份、SSO、MFA、上网行为与审计能力。。。。。这意味着 Agent 不再停留在对话框与 Terminal 中，，，而是能够在企业已经界说好的流程里，，，真正的最先事情。。。。。周琦 24:01Agent 要彻底进入企业，，，必需要现有的流程做深入的融合。。。。。它意味着五件事，，，营业原生，，，让 Agent 进入要害流程。。。。。交付可权衡的效果。。。。。组织原生，，，明确人机协作责任和权限。。。。。工程原生，，，支持自然的构建、宣布、复用和生命周期的治理。。。。。运营原生，，，支持视察、评估与一连优化。。。。；；∩枋┰，，，通过基础设施提供运行包管、数据、身份和极致的可靠性。。。。。只有这五个原生同时建设，，， Agent 才不是一个工具，，，而是企业系统的一部分。。。。。从这个意义上而言，，，智能体走进企业，，，不是一次简朴的系统升级。。。。。而是把企业原有的流程、知识、工具、履历重新编排，，，成一种人和 agent 可以配合执行的能力。。。。。周琦 25:02为此，，，我们围绕企业工程、组织、运营系统构建了一整套完整的 agent platform，，，它由 agent run、 agent teams 和 agent loop 三个组件组成。。。。。面临差别场景的营业需求，，，在这里可以被统一的构建、毗连、治理、评估、优化和协同运行。。。。。它最主要的价值是在于一个团队沉淀的Skills、Tools、战略和评估集，，，可以被下一个场景复用。。。。。一个场景发明的风险可以酿玉成局的规则，，，而一次效果的优化可以影响整个 Agent 的群体。。。。。企业最终拥有的不是一批Agent，，，而是一台一连生产Agent，，，一连优化施展其价值的企业事情流。。。。。 Agent Platform 的焦点能力包括三大组件。。。。。周琦 25:57Aging Ram。。。。。 AgenRun 它是以高代码为焦点的一站式 Agenty 应用基础设施平台，，，承接的是构建这一环。。。。。 AgenRun 将运行时沙箱、影象、知识库、凭证、网关、可视察和评估沉淀成标准能力，，，为企业级 Agenty 应用提供从开发、安排到运维整个全生命周期的治理。。。。。这闪开发者不必在每个项目内里重新最先重复搭建底座，，，而是把时间真正投入到决议企业营业价值的部分。。。。。周琦 26:34流程、上下文和差别化的体验。。。。。 Agent teams 肩负的是组织治理这一环，，，通过提供 agent 团队的治理与协作，，，解决企业在多智能体统一治理、协作编排、清静合规、本钱可控的四方面难题。。。。。它提供 human to agent、 agent to agent、 multi hum- human 和 multi agent 之间的collaboration，，，通过 leader agent 和 worker agent 组织重大的使命。。。。。同时将Skills、MCP、凭证等统一的治理管控，，，最终 Agent 不再是谈天窗里的助手。。。。。而是在明确界线、明确责任的情形下，，，提供全审计的能力，，，成为团队真正的团队成员。。。。。周琦 27:24我们最厥后看一下Agentloop，，， Agentloop 承载的是评估与优化的部分。。。。。各人知道效果永远是 Agent 的生命线，，，可是 Agent 上线之后的话，，，大部分情形下它往往都不会自主进化。。。。。因此，，，我们需要在企业内里的话去收罗 Agent 运行历程中的真实的轨迹。。。。。剖析质量历程中的问题、本钱、延迟和异常。。。。。用量化的方式去评估营业和 agent 的体现，，，再通过proms、skill、上下文和实验的机制推动下一轮优化。。。。。周琦 28:03得益于可视察团队多年关于探针的积累，，，今天 agentloop 险些笼罩了主流所有的 AI 应用框架，，，我们无需改动代码，，，就可以把 agent 所有的运行轨迹举行收罗、统一的剖析和处理。。。。。模子会变得越来越强，，，也会变得越来越容易获得，，，但企业内部高质量的使命轨迹、评价标准是。。。。。败案例和纠偏机制，，，无法被容易复制。。。。。周琦 28:34Agentloop 让企业的 agent 具备自主进化的能力，，，让企业能够构建自主的 learning loop。。。。。Agentrun、 Agentteams 和，，，三者组织在一起，，，就是面向企业一站式构建治理、协作与优化的平台。。。。。这套平台的能力，，，我们自己团队也在深度使用，，，我们来看一下一个真实的案例。。。。。周琦 29:00开源是云原生团队的立身之本，，，团队治理着agentscope、Java。。。。。 Hygres, Nacos, RocketMQ 等顶级熟知的项目，，，天天服务万级开发者，，，治理着万万级的装备。。。。。我们今天通过 Agent 的系统，，，把开源的开发、治理、手艺答疑和质量跟踪所有串了起来。。。。。周琦 29:24焦点的事情会有两个部分，，，第一个部分就是身份的买通，，，身份不清，，，协作无从谈起。。。。。我们把钉钉、飞书、 RAM 等等企业身份的系统和 Agent Identity 举行毗连。。。。。由他给每个 agent 签发身份，，，让 agent 干的每件事都能追溯到人。。。。。第二，，，我们通过高代码、低代码以及纳管的模式组建了 agent 团队。。。。。在这个身份之上面的话，，，我们搭建了研发、客服、数据、运营等等这些职能的团队。。。。。每个团队配备一个 lead agent 认真调理，，，下面带着若干个 work agent 用来从事分工和协同。。。。。这个就和人类企业内里的主管带团队的模式一模一样。。。。。最终，，，我们运行了 15 个各式各样的agent。。。。。提供 7 × 24 小时的在线服务，，，扛掉了 85% 的手艺答疑，，，使运营支持的时长降低了90%。。。。。最难能难堪的是，，，当开发者提了需求之后的话，，，凯时AG响应时间从已往的 7 天已经压缩至了 1 天。。。。。周琦 30:35团队和 agent 在一个数字天下里协作，，，端对端的流水线效率真正的被拉了起来。。。。。阿里云 agent native cloud 就是要让智能体成为企业的一种原生能力。。。。。今天企业智能化是让流程拥有了新的执行者。。。。。它不会取代人，，，而是把人的判断、履历和界线放大到每一次可重复的执行中。。。。。当 Agent 可以一连的被构建、严酷的治理、稳固的协作、一直的进化，，，企业获得的不但是效率的提升，，，而是一套可以规；；粗频闹悄苌。。。。。好，，，以上是我的分享，，，谢谢各人。。。。。

满帮集团 AI 算法总监高艺铭：从“人找信息”到“人托管目的”，，，物流Agent可将货源响应缩短至3至5分钟

主持人 31:25谢谢周琦先生。。。。。手艺的价值最终要在工业中验证。。。。。接下来有请满帮集团 AI 算法总监高艺铭。。。。。分享物流平台 Agent 化转型的实践与思索。。。。。高艺铭 31:57列位来宾各人好，，，我是来自满帮集团的高艺铭。。。。。今天我分享的主题是物流平台 agent 化转型的实践。。。。。我明确物流平台整个 agent 化转型，，，它也是整个工业智能化转型的一个切面。。。。。我想先从整个物流工业的演进历程给各人先容一下。。。。。满帮着实是做的是干线物流，，，干线上面我们现在有百万的司机和百万的货主。。。。。在最过，，，最早的已往，，，着实它是线下的时代，，，线下的时间主要是熟人在做生意，，，通过熟人关系，，，通过信息部，，，通过电话相同。。。。。在这个时间，，，整体的生意效率是较量低的。。。。。到了厥后，，，我们有了互联网，，，凯时AG货源、凯时AG司机逐步上网，，，这样子整个找信息的效率是大幅提升的。。。。。但着实在这个时间，，，仍然是人找信息的一个阶段。。。。。到了现在，，，我们有了平台，，，平台形成了规；；墓┯，，，形成了信用系统，，，使得整个生意笼络酿成了一个履约笼络的状态。。。。。高艺铭 32:59可是到了今天，，，我以为着实我们还没有完全解决用户真正的问题。。。。。以前我们是解决不了，，，我们没有足够的手艺，，，但现在到了 Agent 时代，，，我以为一些问题已经可以解决了。。。。。由于关于司机来讲，，，他不是过来找信息的，，，他不是过来在一个 APP 上，，，在一个列表上刷货的，，，他是想去找到一票货，，，他想，，，他有他自己的目的，，，他想要去到某个地方，，，他希望赚钱。。。。。关于货主而言也是类似，，，他着实想，，，不是说只是来发一票货，，，他想要做的着实是在划定的时间内找到一辆车，，，能够帮他把货源清静的送到最后的目的地。。。。。那么这个用户的最大的价值，，，他着实不是信息的毗连，，，而是资助用户。。。。。做重大的决议。。。。。高艺铭 33:52我们明确的 A 准化的转型，，，它的实质是从人操作软件走到人托管目的。。。。。司机的目的着实他就是想找到一票货，，，去到某个地方赚到钱，，，他会思量他自己的偏好，，，他会知道他能装不可装。。。。；；踔髯攀邓南质档哪康氖窍胝业揭涣境，，，他需要跟司机做举行议价，，，他需要去确保整个服务的质量。。。。。而关于平台而言，，，就是怎么样去承接他们这些目的。。。。。我想从司机自己的目的入手，，，给各人先容一下，，，从一个越发体感的例子来想一下，，，这什么是目的
？？？？好比说司机告诉我们，，，今天我想找一票货，，，今天晚上回到南京，，，从上；；啬暇。。。。。我们推了一些货给他，，，他跟我们说，，，这票货，，，他看了一下这票货，，，空驶距离较量远，，，并且他是从苏州出发的，，，他就会说，，，这票货我可以接，，，可是价钱呢，，，要涨到 1500 块钱以上。。。。。以是对司机而言，，，他的目的是很重大的，，，他有一些硬性的约束，，，好比说他今天是要回南京的，，，他尚有一些软性的偏好，，，好比说他不希望空驶太远，，，若是空驶较量远的话，，，他希望价钱能够越发的高一些。。。。。以是司机的 agent 他不是回覆每一句话，，，而是他要明确上下文，，，维护状态，，，把目的转化成可执行的妄想，，，在市场中的转变中举行视察，，，基于市场的价钱转变、货源的转变，，，他的软性的偏好也会爆发一连的转变。。。。。那么有了这一切之后。。。。。高艺铭 35:28最大的问题是，，，司时机用这样子一套 agent 的系统吗
？？？？若是我们做出来没有人用，，，他真的会愿意托管吗
？？？？在其他的工业，，，我以为好比说像刚刚分享的 Coding 的场景，，，或者是 Research 的场景，，，这个问题应该是没有问题的。。。。。但在物流这个很是古板的行业内里，，，司机的年岁一般都很是之大。。。。。着实我们之前一直也有这个疑惑，，，可是现实上线之后，，，我们发明效果比我们想的好许多。。。。。整体的已往几个月，，，司机的使用率从 15% 一直涨到了35%。。。。。并且只要他使用过一次，，，下次使用的留存是71%，，，远远高于凯时AG想象。。。。。实质上是由于我们解决了他真正的问题。。。。。高艺铭 36:13司机是很是辛勤的，，，他天天会花 169 分钟在平台上看货，，，或许是 2.5 个小时，，，他生掷中的10%。。。。。并且他有许多时间没有时机去看货，，，他在开车，，，他在装卸货，，，他在用饭，，，他在休息。。。。。当他把他的目的交给了 agent 之后，，，我们能够资助他在 24 小时一连的看货，，，司机节约了时间。。。。。但他能找到更好的货，，，由于任何一票货泛起的时间，，，他的目的都在线上。。。。。那么关于平台而言，，，着实是更大的收益。。。。。若是凯时AG百万的司机都愿意将他的目的托管给系统，，，托管给这个agent，，，那么凯时AG整个供应将会翻 10 倍。。。。。高艺铭 36:55以前最大的问题着实是时间和空间的错配，，，当一票货源发出的时间，，，真正能够承接的司机并不在线上。。。。。现在若是数百万的司机所有托管了目的，，，那么任何一票货发出的时间，，，原来的响应时间是十几二十分钟，，，到了现在它会酿成 3 分钟，，，酿成 5 分钟，，，那么货主的体验会大幅提升。。。。。并且关于平台而言，，，那么就会代表着有更多的成交，，，最后达。。。。。告竣司机、货主、平台的三方共赢。。。。。高艺铭 37:28在产品上和商业模式上能够走通之后，，，最大的问题是怎么样生产这样子一套 agent 的系统，，，生产一套真正的工业级，，，能够在线上使用的数百万司机、货主能用的 agent 系统，，，着实有很是多的挑战。。。。。我以为最焦点，，，我们现在实践下来遇到了三个挑战。。。。。第一个挑战是整个系统的转变很是之快，，，我们天天有几百万的货源会发出，，，货源会成交，，，司时机移动，，，状态一直在变。。。。。这样子导致了整个 agent 的盘算量很是之大。。。。。第二个很焦点的挑战是，，，若是我们用 agent 去做种种的决媾和思索，，，它的速率是很是之慢的，，，比起以前简直定性的系统，，，它的决议时间会从几秒钟酿成几十秒钟，，，而货源自己等不了我们那么久，，，导致了司机自己看货能很快决议，，，而交给了 agent 之后反而变慢。。。。。高艺铭 38:23第三个是，，，若是 agent 做了一些不对宜的事情，，，最后造成的损失究竟谁来肩负
？？？？我先讲第一个问题，，，本钱的问题。。。。。几百万的司机在线，，，着实不即是我们有几百万的 24 小时的历程在线，，，更不即是我们有几百万个 agentloop 一直在跑，，，否则的话我相信任何一个企业，，，它都不可能支付的起。。。。。高艺铭 38:50现实上，，，在凯时AG想象之中，，，在凯时AG实践之中，，，我们着实是数百万个一连可恢复的决议状态，，，这些状态包括它自己的目的是什么，，，我们称之为mission。。。。。他自己的 memory 是怎么样的
？？？？我们基于他的目的，，，给他制订了怎么样的找货战略
？？？？他这个司机的短期和恒久的偏好又是怎样的
？？？？这些所有的状态，，，我们着实都是动态的一直存储在数据库之中的。。。。。高艺铭 39:21当事务爆发的时间，，，好比说司机的对话爆发，，，好比说周期性的反馈，，，好比说意图的转变，，，好比说成交状态，，，货源发出，，，我们会去判断这一个状态的优先级究竟是不是紧迫的
？？？？对话他可以做抢占，，，周期性的反馈。。。。
？？？？梢宰龊喜，，，通俗的事务可以做期待，，， agent 只有在要害的时间才会被唤起。。。。。每次被唤起的时间，，，它执行一次，，，更新状态，，，重新休眠。。。。。以是关于用户的感知上来看，，，这是一个 24 小时一直在帮他找货的agent。。。。。可是从系统层面上，，，从工程的实现上来看，，，它是一个事务驱动的、弹性运行的、可治理的基础设施。。。。。高艺铭 40:05第二个焦点问题，，，刚刚着实也讲到了，，，司机着实特殊体贴一票货泛起之后，，，我们会不会第一时间推给他
？？？？凯时AG响应速率是不是足够快
？？？？他会不会损失了他的货源
？？？？为相识决这个问题，，，我们最后设计了一套双循环的系统。。。。。一个是长思索的循环，，，这个跟人很是像，，，人会做长思索，，，会做快思索。。。。。长思索的循环决议了我们究竟怎么看货。。。。。当用户说一句话，，，变换他的目的的时间，，，我们会在 10 秒钟之内给他做响应，，，我们会明确他的目的究竟是怎么样的。。。。；；谒哪康，，，好比说今天他要回南京，，，他需要 1500 块钱以上，，，我们怎么样更好的给他找货
？？？？我要不要从上海去到镇江，，，若是没有货的时间，，，我要不要从苏州出发
？？？？我要不要思量空驶一段距离
？？？？这些所有的战略，，，我们通过一个一分钟的长思索，，，形成了一套可以直接通过确定性系统执行的代码。。。。。高艺铭 41:02这套代码它整合了我们自己的推荐系统，，，整合了凯时AG召回、凯时AG粗排、凯时AG精排、凯时AG触达能力，，，使得这套系统能够通过确定性的系统在 1 到 2 秒之内做决议。。。。。这就使得大模子只需要想清晰一次，，，确定性的系统认真执行万万次。。。。。这样既保存了 agent 的明确和推演的能力，，，也知足了物流生意之中很是严酷的时效性的要求。。。。。高艺铭 41:33要形成这样子一套系统，，，我们总共是有五层的架构。。。。。第一层是 AI 的网关，，， AI 的网关不但是服务的入口以及资源调理的平台，，，它统一接入了百炼的整个模子的服务，，，并且做了整个协议的适配，，，做了fallback，，，做了 token 级别的限流。。。。。第二层是状态和影象，，， Agent 的实质是一连使命，，，我们需要把它长期化。。。。。第三层是清静的执行，，，我们通过 Agent run 的 sandbox 解决了整个空句挪用、代码执行的权限、上下文的隔离的问题。。。。。第四层是运行时。。。。。运行时的整体的视察，，，我们托管了整个 langfuse 到了阿里云之上，，，使得整个评测能够很是清静、长期、可拓展的一直保存下来。。。。。最后我想讲的是，，， agent 着实是在生产系统中的一个一连的进化历程。。。。。真正的一个 agent 系统上线之后，，，往往是令人不知足的，，，它的需要经由很长时间的优化，，，而每一次的失败都应该酿成可以为这个系统优化的资产，，，这个也成为了现在很是通用的范式。。。。。关于我们而言，，，每次的过失、每次的问题、每一次的badcase，，，我们经由了云上的回流之后，，，会去做整个归因，，，看它究竟是产品的问题、是流程的问题、是模子的问题，，，最后形成 Golden Testset。。。。。这个 Golden Testset 会有两个目的，，，一个它会去做全流量的评测，，，第二个它会形成整个的训练数据。。。。。我们基于阿里云做了很好的整一套的流程。。。。。这里我想讲一下满帮平台，，，或者说其他的企业平台，，，着实都有一个很大的记挂。。。。。我们一直以为数据是不可出域的，，，那么。。。。。焦点就是怎么样在私有化拥有这些数据的同时，，，完成整个的进化和流程。。。。。高艺铭 43:24阿里云提提供了整一个的数据的回流，，，整个的训练的情形，，，我们基于派做了整个的偏好的对齐的后训练，，，在未来也会去举行长城使命，，，学会金牌司机和货主司机长城的决议逻辑。。。。。我们阿里云提供了模子单位，，，可以在我们私有化安排的情形内里做推理，，，从而使得所有的数据不出域，，，我们能做到从训练到推理的整个 agent 流程。。。。。这内里着实有一个点，，，当数据不出域，，，当所有工具都是私有化，，，那么整个本钱就会不可控，，，由于都是一个企业自己用所有的工具。。。。。而这里的 AI 网关着实它的整个分时限流起到了很是大的作用，，，我们在线上岑岭时期会把所有的资源留给线上做推理，，，包管整个线上的系统很是稳固的运行。。。。。当我们不需要那么多线上资源的时间，，，当波谷时期，，，我们就会把这些资源流已往做全量的评测，，，会把它拿去做数据的挖掘。。。。。从而导致整个的本钱大幅降低。。。。。高艺铭 44:34在已往的平台，，，毗连的是人和人，，，在现在毗连的是人、数据和服务，，，到了未来，，，我们以为平台最终毗连的是 Agent 和Agent。。。。。平台的价值不是双方的 Agent 自由的博弈，，，它是怎么样在一个统一的规则之下完成目的的协商以及规则的协调。。。。。 Agent 认真处理不确定性，，，而工程认真执行确定性。。。。。最后平台界说怎么样可信的协作。。。。。高艺铭 45:07最后我想回到今天整个分享的主题，，，整个阿里云的 agentic 的 cloud 基础设施，，，为整个 agent 进入到真正的物流生产系统提供了最要害的能力包管。。。。。我们需要的不是单点的模子能力，，，我们需要的整一套的 agentic cloud 基础设施。。。。。我以为右边的三句话是焦点我的体会，，，一个是要看得见，，，我们要全流程可视察。。。。。第二个是守得住，，，我们要清静。。。。。第三个是凯时AG ROI 要算得清晰，，，我们要能够做一连的优化。。。。。高艺铭 45:41这也是我最后的总结，，，物流平台的 agent 化，，，它不但是多了一个 AI 的功效，，，它是把平台从整个笼络生意的系统交给了稳固的 agent 设施，，，升级为了 agent to agent 的可信 agent 的协作系统。。。。。我今天的分享到这边竣事，，，谢谢各人。。。。。

阿里云智能集团研发副总裁、弹性盘算认真人吴结生：阿里云推全新KV缓存与存储架构，，，占有全栈AI云服务40.1%市场份额

主持人 46:10谢谢高艺铭先生，，，让我们看到了智能体在真实工业场景中释放的重大能量。。。。。而支持这一切的，，，是底层基础设施的一连进化。。。。。接下来有请阿里云智能集团研发副总裁、弹性盘算认真人吴结生带来演讲 AI Native 云基础设施的立异与生长。。。。。吴结生 46:38各人早上好，，，很是兴奋借此时机给各人汇报一下阿里云 AI Native 基础设施近期的一些立异和生长。。。。。阿里云是全球少数的几个具备全栈的 AI 基础设施能力的。。。。。这个云服务商。。。。。首先我们有遍布全球的 IDC 的设施，，，我们有自己富厚的自研的硬件和芯片，，，从磁盘的控制器芯片，，，到凯时AG高性能网卡，，，到CIPU，，，到凯时AG倚天的CPU，，，真武的 AI 芯片，，，到凯时AG ICN 的互联芯片，，，以及超节点服务器。。。。。第三呢，，，我们有富厚的云的产品和服务。。。。。吴结生 47:22第四呢，，，我们有自己的千问大模子和百炼的推理服务。。。。。我们加速了这些全栈的AI的基础设施加速了智能体的生长某人工智能应用的落地。。。。。下面的分享呢，，，我会从三个方面来给各人先容，，，首先是凯时AG基础设施怎么样去加速模子的训练，，，怎么去提高推理的效率，，，以及怎么样去让更多的智能体在阿里云上面规；；脑诵。。。。。在大模子的训练历程内里，，，着实算力的质量呢，，，是很是主要的。。。。。今天我们也很是兴奋的去正式宣布。。。。。吴结生 48:00超节点实力是基于我们平头哥的真武的 M 890 AI 芯片，，，以及 ICN Switch 1.0 芯片，，，以及我们阿里云的磐久 AI 超等服务器节点，，，这样的一个三件手艺组成的。。。。。在超节点服务器里，，，超节点内里，，，我们设置了 64 张卡，，，每张卡呢毗连到 8 个 ICN Switch，，，卡间的互联速率抵达800GB，，，每张 M 890 芯片它也设置了 144 G 的显存。。。。。整个超节点的显存抵达了 9 个Terabytes，，，就是 9T 的显存的容量。。。。。这样大的一个容量底下，，，着实我们可以越发高效的去推理，，，像这种 10 万亿参数级别的超大模子的它的推理的效率，，，能够提高整个推理的这个吞吐以及它的本钱。。。。。吴结生 48:57

再就是在模子的训练方面呢，，，我们在一些大模子的训练的测试内里，，，我们发明基于 M 890 最新的芯片呢，，，它的推理训练的性能呢，，，是比我们上一代的 8101 的性能提升了 3 倍。。。。。在整个 AI 的 native 的基础设施内里，，，现实上是一个集成了盘算、存储和网络的这样的一个集群系统，，，它充分借助了凯时AG软硬一体的协同设计，，，以及我们全栈的优化，，，为模子的训练和模子的推理呢，，，提供一个高效的、稳固的这种大规模的算力。。。。。在前端的网络呢，，，我们使用了CIP、 CIPO 2.0 的毗连，，，提高了稳固和清静的能力，，，同时也加速了网络的传输和存储的会见。。。。。后端的网络呢，，，我们接纳的是 HPN 的 8.0 的双平面或双冗余的这样的一个架构，，，单两层的网络架构，，，着实可以支持单个集群 13 万卡这样的一个规模。。。。。三层的架构可以支持百万级别的这样的一个扩展规模。。。。。在集成治理方面，，，着实我们也做了大宗的立异，，，能够包管集群的高可用，，，我们提供了分钟级别的故障的自愈能力。。。。。包管每个实例的高可用的抵达9.7%，，，能够提供了一个稳固的算力。。。。。在训练的历程内里，，，着实有另外一个系统是很是主要的，，，就是存储系统。。。。。随着这个训练的数据规模的一直扩大，，，好比说从 PB 级别扩展到百 PB 级别，，，甚至是 EB 级别。。。。。然后模子的参数呢，，，从千亿到万亿到十万亿次的十万亿的参数的级别。。。。。然后再就是在训练的历程内里，，，对checkpoint，，，它的打的频率呢，，，也从原来的几十分钟降低到分钟级别，，，甚至几十秒级别。。。。。那么这些需求着实对存储。。。。。吴结生 50:57提出了很是极致的需求。。。。。针对这些需求呢，，，我们基于阿里云飞天盘古的漫衍式存储底座，，，打造了一个全栈自研的新一代的 CPFS 系统。。。。。那么 CPFS 系统，，，新的 CPFS 系统，，，它提供了很是水平扩展的扩展能力，，，单个文件系统可以支持百 PB 级别的容量，，，以及万亿级别的文件数目。。。。。同时我们也通过全栈的手艺优化和，，，和软硬连系的一些协同设计。。。。。好比说在盘算侧，，，我们充分借助我们 CIPU 的硬件卸载的能力，，，以及跟操作系统的协同优化。。。。。然后在盘算后端，，，我们提供了高性能的存储的引擎以及高性能存储网络，，，使得单个文件系统的可以提供百 TB 级别的带宽以及 E 级别的 IOPs 这个能力。。。。。然后最后呢，，，我们也通过这种智能的冷热分层和生命数，，，或数据生命周期治理的这个能力，，，来降低了这个存储的本钱。。。。。吴结生 52:00新一代的 CPFS 着实为我们整个的大模子的训练，，，它的效率以及本钱都带来了一个很是大的一个提升的能力。。。。。这是适才给各人先容了我们在训练方面的一些事情，，，在推理方面，，，着实推理的所需要的这算力资源呢，，，将远远高于训练的资源。。。。。我们在基础设施方面也举行了一系列的这立异和生长，，，来推提高推理的效率，，，降低推理的本钱，，，能够释放 token 的生产力。。。。。吴结生 52:30阿里云，，，我们对推理的基础设施举行了一个全栈的优化，，，从这张图上，，，从底向上我们来看的话，，，着实我们。。。。。最底层的是我们自己的盘九的 AI 服务器，，，以及我们为推理情形或推理的场景优化设计的 TPN 的网络架构。。。。。往上的是凯时AG盘算存储网络的焦点的能力。。。。。其中呢，，，我们也为推理 Cache 数据的存储提出了一个新的 KVCache 的多层缓急服务。。。。。再往上是凯时AG推理引擎，，，以及我们推理 KVCache 的一些治理层。。。。。最上面的是推理的服务，，，我们提供了派的推理服务，，，以及基于容器的一些推理集群的解决方案。。。。。贯串全栈的是端到端的可视察能力。。。。。这样的一个基础设施上面呢，，，我们支持了千问和百炼的 Token 工厂。。。。。吴结生 53:23下面我们给各人先容一下这个TPM，，， TPM 呢是 Token Performance Network 的一个缩写，，，就是我们专门为面向这个推理的架构，，，专门为这个推理的这个场景呢举行了一个深度的网络架构的优化，，，它的主要的立异点来自就是我们把多种差别的流量就放在同样一个网络架构内里，，，在这个网络内里，，，着实我们有 PD 疏散的网络流量，，，我们有 AF 疏散的网络流流量，，，我们有会见 KV Cache Store 的网络流量，，，以及会见这个云服务的网络流量。。。。。这几个多种的网络流量之间，，，我们可以按需的分配带宽，，，提供差别流量之间的一个性能的隔离，，，以及它的服务质量的包管。。。。。在这样的一个网络架构内里，，，大大简化了这个网络系统的重漂后，，，同时也降低了这个推理的本钱。。。。。在随着这个 agent 的生长啊，，，各人也会看到，，，这个多轮的对话啊，，，尚有长上下文的推理的成为一个新的趋势。。。。。吴结生 54:22然后在这个推理的历程内里，，， KV CATCH 的数据的量呢，，，是爆发式的增添。。。。。那凯时AG显存，，，凯时AG内存，，，再加受骗土地这三层的存储的容量，，，是远远不可知足今天 KV CATCH 数据它的增添量的。。。。。那这内里带来的一个影响就是降低了推理的掷中率，，，以及降低了推理的吞吐，，，就为相识决这个问题，，，就是我们宣布了一个新的 G3.5 层的 KV CATCH STORE 的一个存储系统。。。。。那么它是一个高性能的 KV CATCH 的存储STORE，，，然后专门为 KV CATCH 的存储的会见呢，，，举行了一系列的深度优化。。。。。吴结生 55:02首先第一呢，，，是支持 KV 的接口，，，可以我们很利便的去对接种种开源的或自研的推理的框架和推理的引擎。。。。。第二，，，是与算力上坚持亲和性的安排，，，借助我们 TPN 的网络，，，我们可以把 KV catch store 和推理的算力资源安排在同样一个 TPN 网络架构下面，，，能够提供这种高性能的网络会见。。。。。吴结生 55:27第三，，，是一种盘算和存储疏散的架构，，， KV catch store 它可以自力与算力举行安排，，，可以自力与算力去举行弹性的扩容，，，可以提供千亿级别的KV。。。。。存储的 KV 元素的存储能力。。。。。在客户的 POC 的验证内里，，，着实我们也发明 KV cache store 呢，，，可以提高缓存的掷中率高达20%，，，从而大幅降低这个推理的本钱，，，提高推理的效率。。。。。吴结生 55:57在我们阿里云，，，也为客户呢提供了多种推理服务的产品选择。。。。。着实我们知足客户呢差别的多样化的需求，，，我们提供了三种类型的产品，，，第一种类型的产品是。。。。。模子即服务的产品，，，就是凯时AG百炼。。。。。它可以资助客户通过 API 的方式去获取后面的。。。。。模子所爆发的tokens。。。。。第二类的产品呢，，，是这类我们想讨论的，，，就是凯时AG派的TokenWorks，，，它是属于一种平台即服务 PASS 层的产品。。。。。它的要害的焦点能力是什么呢
？？？？第一呢，，，它开箱即用，，，可以让模子的上线从几天下降到几十分钟，，，提高这个模子上线的效率。。。。。第二呢，，，是企业专属和可控的一个能力，，，好比说客户想自己去定制一些专属的网关，，，以及做一些限流的机制的一些定制化。。。。。吴结生 56:52第三呢，，，是提供了一个立体化的这种 SOO 的一个包管。。。。。一般来说各人会关注，，，好比说首 Token 的。。。。。这个延迟就TTFT，，，但同时呢客户也会关注，，，好比说我的本钱啊、价钱啊，，，或者我的 token 的吞吐啊，，，尚有我的缓存的掷中率，，，以是 tokenbox 现实上除了 TTFT 以外，，，它提供了一个越发立体化的一个 SOA 的一个模子，，，客户凭证可以凭证自己的需要举行设置。。。。。吴结生 57:23第三类产品呢，，，是我们也会看到有一类客户，，，他可能对资源有更多的治理的诉求，，，好比说他白天会把资源举行推理，，，晚上呢可能把资源举行一些数据的处理和模子的训练。。。。；Ｉ杏锌突Э赡芏阅Ｗ拥耐评淼募芄，，，会以及模子有自建的一个诉求。。。。。那么针对这些客户的需求，，，我们提供了一个基于容器的这样的一个推明确决方案。。。。。吴结生 57:48首先这个容器的，，，这个推明确决方案内里，，，我们资助客户解决了四类问题。。。。。第一个呢是简化它的安排和运维，，，提供资源的一些编排和缩扩容的能力，，，提供转动的更新和故障恢复等。。。。。第二呢是提供模子的感知的这种智能路由，，，好比说我们可以提供 KV cache。。。。。感知的路由，，，或者提供 Lora 感知的路由。。。。。第三，，，是提供全栈的可视察能力。。。。。吴结生 58:17第四呢，，，是提供漫衍式的缓存和模子的预热能力，，，这样会资助在模子的推理历程中举行冷启动的这个效率，，，降低冷启动的时延高达90%。。。。；；谡庑┠芰Φ，，，我们有些客户在使用的历程里内里，，，可以资助他们提高 GPU 的使用率，，，提高35%，，，然后每个 Token 的平输出的平均耗时呢，，，也降低了60%。。。。。吴结生 58:44以是适才也给各人讲到了训练和推理，，，针对第三方面，，，就智能体 agent 呢，，，正在走向规；；统【盎穆涞。。。。。我们也凭证 agent 负载的特点举行了一系列的深度优化和立异，，，增进智能体在阿里云上规；；脑诵。。。。。适才周琦也提到，，，说整个智能体的运行，，，它现实上有很是一些显著的自身特点，，，好比说它需要一个清静隔离的沙箱情形，，，它是高并发，，，频仍的启停，，，它的执行时间的动态，，，好比说有的 agent 智能体可能就执行一个下令，，，有的 agent 可能是一个几个小时或者数天的一个长时间的运行。。。。。吴结生 59:25智能体在运行的历程中，，，有时间会空闲，，，空闲的时间呢，，，从客户的视角来看，，，他希望能够举行休眠，，，能够释放资源来降低本钱。。。。。针对这些需求呢，，，我们也做了一系列的优化。。。。。首先是通过 CIPU 或虚拟化的手艺的连系，，，提供了一个 MicroVM 级别的这样的一个清静隔离的沙箱运行情形。。。。。其次呢，，，我们也提高了我们系统的扩展能力和弹性能力。。。。。我们把我们自己的整个的管控面酿成了第二个数据面，，，能够支持每分钟快速的拉起，，，好比说 10 万级别的这样的一些沙箱。。。。。我们在单个区域内里也支持百万级别的沙箱的规模。。。。。这就是快速的启动，，，凯时AG冷启动的时间可以抵达百毫秒级别，，，热启动的时间是 10 毫秒级别。。。。。吴结生 01:00:11最后呢，，，我们也支持深度的休眠。。。。。适才也提到沙箱，，，智能体沙箱它的运行呢，，，是很是不稳固，，，或者很是的动态的，，，有的时间运行很短，，，有的时间运行很长。。。。。有时间需要长时间的休眠，，，那么在休眠的历程内里，，，我们把。。。。。智能体它的运行时代的内存生涯下来，，，释放 CPU 和内存，，，从而降低本钱。。。。。在叫醒的时间，，，我们也可以快速的启动。。。。。吴结生 01:00:39最后，，，我们提供无邪的接口，，，包括 E to B 的兼容接口啊，，，尚有 K8S 兼容的协议的接口，，，以及我们自己函数盘算的原生的SDK。。。。。这样的话，，，包管客户可以凭证自己的营业的需求来无邪的、高效的举行对接。。。。。在 agent 执行的历程内里呢，，，着实需要存储一些状态数据，，，包括它的事情目录啊，，，尚有它的会话纪录和私有的文件等状态数据啊。。。。。它需要一些清静的隔离和数据的权限的治理，，，容量和性能的配额治理等，，，需要高并发和启动的阻止，，，以及需要有越发大规模的文件的建设和删除等等。。。。。

吴结生 01:01:21以是我们在这个需求下面，，，着实对整个的文件系统提出了一个许多极致的要求。。。。。我们为专门为这个 agent 呢设计了一套新的文件存储，，，叫 agentic FS。。。。。那么 agentic FS 它的一个主要的立异点来自于，，，我们为每一个 agent 提供了一个。。。。。清静的、自力的、隔离的这样的一个 agentic space，，，那么在这个空间内里呢，，，我们提供了配额的治理、容量的配额治理、性能的配额治理，，，我们提供了这种清静的权限的控制。。。。。吴结生 01:01:55在规模方面，，，我们提供了百万级别的这样的一个建设和删除的能力。。。。。在每秒钟呢，，，可以完成 10 万次这样的一个文件的挂载和卸载，，，知足智能体的高并发和高动态的负载需求。。。。。 agent 负载对云网络也提出了一个更多的新的需求啊，，，我们优化了 VPC 和 Net 网关的扩展能力和弹性能力。。。。。当 VPC 呢会支持百万 agent 沙箱的并发建设，，，然后每个 agent 的 Net 的集群呢，，，支持 20 万沙箱的并发会见。。。。。在稳固清静方面呢，，，着实各人在运行智智能体的时间，，，可能会要求，，，就是说我们对公网的会见需要有越发细粒度的限流、溯源和清静的审计，，，我们通过出口网关 EPG 来提供这些清静的能力。。。。。最后呢，，， agent 可能有。。。。。这种全球会见推理服务和使用工具的需求，，，我们通过 GA 的来提供这种全球加速和跨境加速的能力，，，从而来提高这个 agent 的执行效率。。。。。最后呢，，，总结一下，，，阿里云的全栈的 AI 基础设施啊，，，我们支持了千问大模子的训练以及百炼的推理服务，，，我们也支持了阿里巴巴种种营业它的 All in AI 的战略的落地。。。。。在这个历程内里，，，阿里云的这些产品和手艺获得了一个名贵的全链。。。。。同时呢，，，我们。。。。。也拓展了许多外部客户的营业，，，叫海内至少有一半的大模子公司都跑在阿里云上面。。。。。吴结生 01:03:30企业全栈的 AI 云服务市场方面呢，，，凯时AG市场份额也是40.1%，，，这样一个领先的市场份额。。。。。很是谢谢凯时AG客户对凯时AG信任啊，，，客户的这些需求，，，着实驱动了我们 AI native 基础设施的一个立异和生长。。。。。我的分享就到此竣事，，，很是谢谢各人。。。。。

平头哥半导体副总裁高慧：“AI爆发不靠简单芯片”，，，阿里构建全栈算力系统

主持人 01:03:54谢谢吴结生先生。。。。。芯片是智能体时代一切算力的起点。。。。。接下来有请平头哥半导体副总裁高慧为我们解读 Tiny Heatsell 从全栈算力到开源生态。。。。。?高慧 01:04:21列位来宾各人上午好，，，很兴奋今天能够有时机在这里和各人分享一下平头哥最近的一些希望。。。。。刚刚吴结生先生为我们带来了 AI Native 的一些云基础设施最近的希望。。。。。我想带各人呢，，，从一个更微观的视角，，，我们一起去 zoom in 一下，，，看看凯时AG芯片层面在面临哪些挑战
？？？？平头哥最近在做哪些事情
？？？？着实今年以来呢，，，智能体快速的应用也在重塑整个数据中心的事情负载。。。。。那和古板的大模子训练推理相比，，，着实这些都给数据中心的基础设施带来了许多的挑战。。。。。?高慧 01:04:58刚刚我们也刚看到了吴杰生先生为我们带来了云在种种方面为 agent 所做的一些手艺的事情。。。。。那着实在智能体之间的高频协同和。。。。。工具挪用对长尾时延提出了很是高的要求。。。。。同时呢，，，高并发的智能体应用、超长上下文的多轮推理，，，这些都让系统的效率面临很是大的压力。。。。。?高慧 01:05:22系统层面的瓶颈在被急剧的放大，，，这些都在挑战算力的使用率TCO。。。。。若是存储和网络跟不上，，， AI 芯片的盘算效率就会下降，，，整体的 MFU 会会被大幅的拉低。。。。。尤其是频仍的上下文切换，，，异构组件之间缺乏协同，，，这样呢，，，就会带来可能大宗无用的能耗。。。。。这些问题呢，，，着实是靠升级一颗芯片、两颗芯片是解决不了的，，，这些需要在系统级。。。。。去做一个整体的解决方案。。。。。我们芯片层面所给出的回覆，，，平头哥所给出的回覆，，，就是我们在算存网全栈去做升级，，，去做系统级的极致协同。。。。。我们以 AI 芯片为焦点，，，构建了数据中心完整的解决方案。。。。。?高慧 01:06:09首先真武芯片自推出以来，，，着实一直在业界呢备受好评，，，也是极具产品竞争力，，，应用很是普遍的 AI 芯片。。。。。同时呢，，，我们在这一代搭配凯时AG超节点，，，推出了我们 ScaleUP 的交流机芯片，，，也就是基于平头哥自有的 ICN 互联协议的 Switch 芯片。。。。。有了这个芯片，，，我们在节点内就可以实现恣意两张卡之间的无差别会见，，，构建一个全带宽的互联网络，，，这样就可以突破已往古板跨节点通讯的一个高延迟瓶颈。。。。。同时我们在 Scale Out 网络上，，，平头哥也推出了凯时AG盘麦高性能网卡，，，这是一款呢，，，为 AI 集群打造的 400G 的高性能网卡，，，它可以用于跨节点之间的以太网的通讯。。。。。?高慧 01:06:58已往着实很长一段时间，，，我们在讨论 AI 基础设施的时间，，，我们把凯时AG焦点都放在了GPU，，，放在了网卡上。。。。。当 Authentic Infra 再重新把焦点拉回到 CPU 当中，，，我们看到 CPU 不再是 GPU 的一个辅助处理器，，，它是一个使命编排器，，，它认真工具的调理、多工具的并行、长上下文的治理等等。。。。。?高慧 01:07:23平头哥的服务器 CPU 倚天系列产品呢，，，可以和凯时AG AI 芯片，，，可以和凯时AG网络芯片形成高效的协同。。。。。同时呢，，，在存储领域，，，我们交付了震岳系列的存储控制器芯片，，，这个可以用来解决我们现在的海量上下文的数据以及恒久影象。。。。。全系的自研芯片的话，，，为我们整个舷立异打造了一个手艺底座。。。。。凯时AG盘久超节点服务器，，，它是我们全栈能力的一个物理载体。。。。。做个小小的广告，，，我们基于真武芯片的盘久服务器的话呢，，，也刚刚荣获了本届的天下人工智能大会的镇馆之宝，，，接待各人呢去展区去看一看凯时AG硬件。。。。。那现实上呢，，，这个硬件当中不但有。。。。。凯时AGGPU，，，有凯时AGSwitch，，，它也集成了凯时AG网卡芯片、凯时AG存储芯片。。。。。?高慧 01:08:20磐久这个服务器的设计的，，，现实上照旧做的很是很是不错的。。。。。它以很是无邪的
？？？？榛⒄畹南低辰峁，，，带来了许多的系统设计的便当。。。。。好比说它可以无邪的支持这内里主力芯片的自力演进。。。。。若是凯时AG GPU 往下去演进一代，，，在系统不做大的修改的情形下面，，，它可以去自力的去替换 GPU 芯片。。。。。同时呢，，， CPU 与 GPU 芯片呢，，，数目也可以做无邪的配比。。。。。?高慧 01:08:48第二点呢，，，就是凯时AG GPU 芯片和凯时AG Switch 芯片接纳了一个正交互联的架构，，，这种架构的利益的话呢，，，是它可以降低高速链路的消耗，，，同时呢，，，也镌汰了 cable 布线，，，这样整体提高了系统的可靠性和可运维性。。。。。这些都是我们在硬件系统层面所做出的一些设计和考量。。。。。?高慧 01:09:09那基于平头哥全栈芯片所搭建十万卡级别的集群架构，，，连系阿里云完整的AI框架、平台、模子和应用，，，可以为大模子的训练、推理、 agent 的应用提供高效的算力支持。。。。。我们全栈的芯片现实上已经切实的服务了千行百业的客户，，，成为了海内应用场景最普遍的 AI 芯片。。。。。真武芯片呢，，，自推出以来到今年的 4 月份，，，现实上已经出货了 56 万片，，，服务了 20 多个客行业，，， 400 多家客户。。。。。我想这个安排规模已经充分验证了我们 AI 芯片的稳固性、易用性、营业泛化扩展的能力。。。。。我们成为了海内当今应用场景最普遍的AI 芯片。。。。。在这个出货量背后，，，我们积累了不但是实践履历，，，我们跟客户也配合打磨了凯时AG软件栈。。。。。凯时AG软件栈的名字叫 Theadscale 软件栈，，，我们呢，，，今天也正式宣布凯时AG Theadscale 软件栈开源开放。。。。。我们做这个决议，，，着实很主要的一点是，，，我们相信凯时AG硬硬件做的再好，，，若是没有昌盛的软件生态，，，没有活跃的开发者社区，，，没有富厚的模子和工具支持，，，算力是没有步伐施展真正的价值的。。。。。以是我们选择，，，我们把和阿里云以及千行百业的客户，，，在真实的情形中经由了深度的打磨，，，扛过了大规模的流量，，，重大营业场景验证以及 SLA 种种磨练的 SEAL 软件栈，，，开放给整个开发者社区。。。。。?高慧 01:10:52我们开放的着实不是一个简朴的代码，，，是一套从底层驱动盘算库、通讯库到推理引擎的完整的软件系统。。。。。我们希望以完整的软件栈，，，闪开发者能够零门槛的用上凯时AG算力，，，也让更多的相助同伴。。。。。能够基于凯时AG平台做二次的立异。。。。。好，，，我们接下来看一下我们软件栈的全貌。。。。。从底层到上层，，，现实上我们提供了一个完整的软件工具链，，，可以给开发者提供一个万能、可靠、开箱即用的开发体验。。。。。首先是底层驱动与运行时，，，它提供了统一的装备与内存治理。。。。。是编程语言层，，，我们可以无缝的支持C、 C++、Python，，，开发者无需学习新的语言或者编程范式，，，现有的这些代码。。。。。就可以做平滑的迁徙。。。。。编译器层呢，，，可以构建起完整的开发与调试的闭环。。。。。高性能库层是我们积累的最后的一层，，，我们有六大的焦点数据库支持大模子的训推，，，同时呢有编解码库来知足多模态的高吞吐需求，，，同时有荟萃通讯库破解漫衍式训练以及推理的瓶颈。。。。。 SoC 软件栈同时呢可以助力开发者实现全链路的掌控，，，这内里从算子级的细腻剖析到系统级的全栈总览。。。。。从单卡的实时监控，，，到大模子集群的智能调理，，， Seal的软件栈全方位的赋能开发运维。。。。。好，，，讲完了我们整个软件栈的手艺架构，，，我想讲一讲我们软件栈背后的一些设计的逻辑和初志。。。。。着实我们从第一行代码的建设最先，，， Seal 就秉持着以开发者体验为中心的焦点理念。。。。。我们从一最先就在问，，，开发者在已往积累的履历和代码能不可在 Seal 上无缝的复用
？？？？开发者在 Seal 软件栈用的时间，，，他上手快烦懑
？？？？它跑的好欠好
？？？？它调起来顺不顺
？？？？以是围绕着这些问题，，，我们让 Seal 做了三个不必。。。。。?高慧 01:13:05第一个呢叫开发者不必改，，，以是开发者可以用现有的代码，，，以少少量的修改，，，就直接迁徙复用。。。。。第二点呢，，，开发者不必等，，，我们着实所有的人都能感受到整个 AI 手艺迭代的速率，，，逐日新月异，，，主流开发者社区上线新版本后，，，我们会第一时间适配，，，开发者无需做特另外适配和期待。。。。。我们在短时间内就可以用上行业前沿最新的算子特征以及优化手段。。。。。第三点的话呢，，，是开发者不必绑，，， SEAL 软件栈普遍的兼容适配，，，开发者可以无邪的选用工具链，，，不需要绑定特定的手艺蹊径。。。。。那我们举几个例子，，，让各人有一些更直观的感知。。。。。现在呢，，，在 GitHub 上，，，就是 Star 大于 10 的主流的 AI 客栈有 3277 个，，，我们对其中的 3248 个已经完成了适配，，，也就是说开发者下载代码，，，基本上直接编译就能在 SEAL 上跑通，，，这就是我们不必改的底气。。。。。第二点呢，，，在VLM、 SG- Lang 这些主流的 AI 推理框架上，，，从上游宣布新版本到 Seal 完玉成量的适配，，，凯时AG平均周期不凌驾一周，，，这个是我们对开发者不必等的一个允许。。。。。第三点呢，，， Seal 已经完成了笼罩PyTorch、TensorFlow、VLM、 SG- Lang，，， 260 多个主流训练推理框架的支持。。。。
？？？？⒄哂檬裁纯蚣，，，我们就支持什么框架，，，选择权始终我们留给开发者，，，这个是我们对不必绑的允许。。。。。以是概括一下，，，我们 Seal 的软件栈实现了全量的兼容。。。。。抵达了快速的演进，，，可以为凯时AG用户和开发者实现生产级的无缝迁徙。。。。。?高慧 01:14:55现在呢，，，凯时AG开发者官网已经上线，，，汇聚了全量的开发者文档、软件制品，，，也同时在在这个官网上提供了高性能的互联工具、性能剖析工具、超等点设置与治理工具，，，这些全套开发者工具。。。。。无论是模子的训练、推理、性能调优，，，照旧大规模集群的运维，，，我们在这里都可以找到一站式的解决方案。。。。。希望未来凯时AG官网可以成为各人可靠的相助同伴，，，闪开发越发高效，，，让凯时AG真武算力越发易用。。。。。?高慧 01:15:30后续呢，，，我们将一连投入开源社区的建设，，，很快凯时AG AI 框架，，，开源定制的加速库将上线GitHub，，，同时也将提供 Docker pip 源的下载。。。。。接下来会陆续开放，，，包括通讯库、盘算加速库、推理引擎软件。。。。。未来我们会上线开发者论坛板块，，，搭建起平头哥与社区、开发者与开发者常态化交流的平台，，，各人敬请期待。。。。。?高慧 01:16:01我们今天呢，，，着实从全栈算力聊到了软件的开源开放，，，我们共享共建凯时AG AI 软件生态。。。。。我们这么做是由于我们始终相信，，，AI 时代的真正爆发，，，不是来自于某一颗、某两颗真正强的芯片，，，而会来自一套更开放、更协同、更高效的全栈算力系统。。。。。我们希望呢，，，给行业、给客户提供一套经由验证、开放共享的 AI 算力基础设设施。。。。。未来的趋势呢，，，一定是单个的硬件界线会被全栈的系统协同所突破，，，软件的壁垒也会被开源开放的生态逐步替换。。。。。?高慧 01:16:43在这里我想分享一个有趣的点，，，就是我们软件栈的名字为什么叫Seal
？？？？着实我们做了许多思索，，，我们最后选了 Seal 这个名字，，，它的全称是 Seed of AI Library，，，就是种子。。。。。我们把我们每一行代码都看作一个蕴含无限可能的种子，，，我们也期待未来这些种子可以长成参天大树，，，可以蔚然成林。。。。。那么我们希望各人可以一起加入凯时AG，，，我们一起共行致远，，，谢谢各人！

阿里云数据库认真人杨辛军：云的第一用户正从“人”变为“智能体”，，，数据成为一个企业AI落地的财产所在

主持人 01:17:16谢谢高慧女士。。。。。当云的第一用户从人酿成智能体，，，数据成为 agent 明确天下的燃料与影象。。。。。接下来有请阿里云智能集团数据库认真人杨辛军，，，分享从服务人到服务agent，，，打造智能体时代的数据平台。。。。。杨辛军 01:17:40列位来宾，，，各人上午好！我是阿里云数据库的认真人杨辛军。。。。。很兴奋今天有时机和各人分享一下阿里云数据平台在 Agentic Cloud 的时代的一些思索和探索。。。。。已往企业做AI，，，大部分精神是集中在大模子，，，可是随着 AI 的落地，，，各人越来越发明数据成为 AI 时代、 AI 落地、 Agentic 时代的一个切分点。。。。。以是我们在杰森晃在今年的 GTC 的一个 Keynotes 上面也说到，，， structure data 就是结构化的数据，，，是 ground truth。。。。。杨辛军 01:18:29Unstructured data is context of the AI study.杨辛军 01:18:34以是在Pioneer，，，同时 Pioneer 的最近的 Alex Crabb 也说了一个，，，数据是 AI 时代的财产，，，而真正能够包管一个企业的乐成，，，是它的 AI 的数据怎样使用。。。。。以是，，，在 AI agentic 时代，，，数据是很是主要的。。。。。这个也是我们看到最近的一些趋势，，，这个数据随着 AI 的落地，，，它并没有镌汰，，，它在爆发性的增添，，，每个企业都把它的数据当做它的财产。。。。。杨辛军 01:19:13来举行复制，，，以是 在这个 AI 时代，，，数据是爆发性增添的。。。。。同时我们也看到，，，包括内存，，，包括存储，，，都在最近几个月举行爆发性的增添，，，包括他们的存储量，，，包括这使用量。。。。。和他们的价钱都在爆发性的增添，，，说明数据是越来越成为一个企业 AI 落地的财产所在。。。。。杨辛军 01:19:43以是同时 Agent 在这个 AI 落地的时代，，， Agent 成为这个 AI 落地的一个载体，，，以是我们也看到这个 AI 时代，，，这个 Agent 在企业的Agent，，，落地的规模和个人的 Agent 落地的规模都在爆发性的增添。。。。。凯时AG Token 消耗也在爆发性的增添，，，在 Token 是酿成一个commodity，，，酿成一个通用的算力，，，可是同时我们需要一个 agent 来做 token 的落地的一个载体，，，以是越来越多的 agent 成为企业的一个落地 AI 落地的一个财产。。。。。以是我们看到目今 agent 在数据库这里也成为越来越主要的一个操作者。。。。。杨辛军 01:20:35行业数据当中，，， Databricks 说了 80% 的。。。。。它的数据库的实例是由 agentic 创立的，，，同时 97% 的分支是由 agent 建设的。。。。。同时我们阿里云尧池数据库也看到类似的一个趋势，，，凯时AG PostgreSQL 数据库最近是有 80% 是由 agent 建设的。。。。。以是我们已往整整 5 年，，，整个 PostgreSQL 数据库差未几创立了4万个实例，，，最近我们在已往的几个月当中就看到 agent 建设了差未几 12 万个。。。。。这个数据库，，，以是这个 agent 的爆发对凯时AG数据库是有很是大的资助的，，，以是 agent 自主创的环比也是在 300% 的增添。。。。。杨辛军 01:21:32以是我们在 AI 时代，，，在这 agentic cloud 时代，，， agent 需要什么样的数据库平台
？？？？以是这个方面我们有，，，也有许多的探索，，，着实我们发明在这 6 个方面，，， 6 大能力方面，，，我们需要做很大的提升，，，其中是资源的弹性，，， agentic 的时代，，， agent 建设数据库是非
？？？？斓。。。。。以前人 ADBA 建设数据库可能会用很长时间，，，可是现在由 agent 建设，，， agent试错的能力很是强，，，它会单个会建设很是多的数据库，，，以是有资源的弹性，，，包括它会建设，，，也会销毁，，，以是资源的弹性是很是主要的。。。。。杨辛军 01:22:16尚有就是上下文影象，，，对吧
？？？？这对这个整个 agent 是很是主要的。。。。。agent 若是 AI 没有影象，，，它是要继续做很是多的重复的盘算。。。。。以是包括像凯时AG人的大脑一样，，，这个 agent 的影象是很是主要的，，，以是这些影象也会存储在数据库里边。。。。；Ｉ杏芯褪欠种源，，， agent 会做更多的实验，，，它会在单秒之内建设很是多的实验的 branch sandbox，，，每个 sandbox 下面都可能有一个数据库。。。。。杨辛军 01:22:53第四个是我们所谓的多模的探索，，，多模的搜索，，，这个多模就数据库不但是说结构化数据，，，尚有很是多的。。。。。非结构化数据，，，以是这个需要他们联合举行搜索，，，实时的更新。。。。。第五个是 agentic 的的本钱，，，本钱是很是主要的，，，由于 agent 它是没有意识的，，，没有本钱的意识的，，，以是我们要举行本钱的视察，，，举行本钱的控制。。。。。杨辛军 01:23:22第六个虽然是权限，，，我们适才也说到了，，，许多 sandbox 会被攻击，，，以是我们要举行 agent 的清静的控制。。。。。以是这个是凯时AG秒级弹性的一个偏向的数据库的一个压力，，，以是我们也可以看到，，，适才说了，，，可能在 10 秒钟之内，，，可能建设无数个，，，就 10 万个agent，，，这个 agent 的，，，我们希望是说能够即用即走，，，以是我们也是看到，，，在这个场景下，，，若是要控制本钱的话，，，每个 agent 若是单唯一个数据库，，，它会本钱很是高，，，以是我们现在的思量是说要多层存储，，，整个多个 agent 是共享一个存储的，，，已往我们数据库也是一直在往。。。。。高性能的存储生长。。。。。可是 agent 的时代，，，我们发明这个趋势给逆转了，，，更多的数据库的存储需要放在低本钱的硬盘上面，，，以是我们也会在思量，，，大部分的 agent 的数据都放在低本钱的 OSS 上面。。。。。在这个配合的租户上面，，，搭建 agent 的所需要的数据库。。。。。杨辛军 01:24:41以是一个较量合适的一个例子，，，我们之前可能一个人迁徙到一个地方，，，他他要需要一个自己住一个房间，，，对吧
？？？？住一个旅馆。。。。。可是若是突然之间来了 10 万个客人，，，或者来 100 万个客人，，，那每个人要租一个旅馆，，，着实我们也租不到，，，有可能这次开会的话，，，我们最近也旅馆这里周围也很难租到。。。。。杨辛军 01:25:07可是我们在这种情形下，，，若是有百万人进到一个都会的话，，，我有可能我们就在一个重大无比的一个体育馆给各人分发一帐篷，，，以是这个帐篷呢，，，又能做到隔离，，，又能做到，，，可是即用即毁，，，使用了以后，，，就可以扔掉。。。。。以是这个是凯时AG一个想法，，，可是他在给体育馆里是有个。。。。；；镜囊桓稣飧龅鬃诶锉，，，以是一个统一的底座，，，以是这个是我们思量到的一个所谓的统一底座，，，多层存储，，，周全降低这个 agent 的使用本钱。。。。。后边就是说凯时AG影象是很是主要的，，，凯时AG人的大脑全是靠着影象来举行做许多的思索，，，对吧
？？？？以是影象我们需要是一份数据，，，我们以前是有差别的数据库来支持差别的数据，，，有结构化的数据，，，有 TP 数据库，，，有非结构化数据，，，有那些 AP 数据库，，，可是在这个 agentic 时代，，，由于需要。。。。。这些数据同时举行联合的搜索，，，以是我们是一份存储，，，一份数据，，，举行多模的检索。。。。。杨辛军 01:26:22可视察性是我们是更主要的一个事情，，，就是所有 agent 做的事情，，，我们都需要能够可视察。。。。。以是这方面我们也做了很是多的事情，，，包括我们现在做，，，在 agent 每做一个操作，，，我们都可以举行把它打标，，，都可以举行把它给全量的举行。。。。
？？？？煺占吐，，，每一个对文件的修改，，，我们都可以做快照，，，以是这个对整个快照的压力很是大。。。。。之前我们做好比说游戏数据库，，，这游戏，，，有可能我们会做一个月一个快照，，，厥后进化到一天多个快照。。。。。可是在 agentic 时代，，，我们要做到 10 万次每秒的一个快照的纪录，，，关于它每一个操作，，，我们都可以纪录下来。。。。。这个对数据库是，，，包括文件系统都是很是大的压力。。。。。可是我们也通过凯时AG刷新，，，做到了 10 万次每秒的快照的能力。。。。。以是对 agent 的每个改动，，，我们都可以举行快照纪录，，，可以回溯，，，可以滚回，，，这个都是凯时AG很是主要的一个能力。。。。。杨辛军 01:27:35后边第四个是说凯时AG清静的能力，，，对清静的四道防线。。。。。这个 agent 的时代，，，各人对 agent 对它的操作。。。。。是很是不放心的，，，以是我们对中各个方面都要对这个数据举行清静的防护，，，不但是说 agent 是不是给他一个会见的一个密码，，，照旧说我们对所有的数据要举行加密，，，这个是我们包括所有的数据的扫描，，，以是我们在这个数据的层面，，，数据平台的层面，，，我们做了大宗的事情来包管这个数据的清静。。。。。由于同时我们适才说了本钱是我们最主要的一个点。。。。。可是由于本钱的原因，，，我们可能举行多租，，，多租了以后，，，一个问题就是说有没有可能，，，由于一个租户被突破以后，，，他会会见到其他的租户的信息。。。。。以是这方面我们在多租的能力下边，，，也要做到更好的租户的隔离。。。。。杨辛军 01:28:36同时清静这里我们也要有人tracking，，，对吧
？？？？就说每个 agent 他都有可能做一些差别的事情，，，以是我们对这个上万百万级别的 agent 都能标识到他所做的所有的事情。。。。。以是这个对凯时AG数据库，，，他对会见的他的数据的所有的这个事情都要举行。。。。。标识。。。。。这个也是一个很是挑战的一个功效力，，，以是我们数据库数据平台也做到了这个能力，，，关于每个 agent 都，，，它所有会见的数据，，，所有的操作都举行了标识。。。。。杨辛军 01:29:13后边我讲几个例子，，，凯时AG客户怎样使用凯时AG数据平台。。。。。第一个例子是凯时AGMinimax，，， Minimax 它有一个它的Toki，，，它的 Toki 是它情绪陪同类的一个APP。。。。。包括情绪陪同类的一个agent，，，以是他所有的数据，，，包括他会见的，，，跟用户交互的所有的数据，，，都保存凯时AG数据平台里边。。。。。他每次的情绪的交互是需要来通过已往的一些履向来举行思索的，，，以是这个是凯时AG一个长影象的一个案例，，，他所有的每个用户的交互都会在凯时AG数据库里边，，，包括他。。。。。 Structured data 包括他好比说个人的一些信息，，，个人的银行账号，，，也包括一些他的一些图片、视频。。。。。以是这个是凯时AG很好的一个案例，，，就是说他能够在跟客户交互的时间，，，能举行通过这些快速的多个数据的联合的盘问，，，来给出更好的一个谜底。。。。。以是整体上，，，他的这个读写性能，，，通过凯时AG数据平台，，，在这个千亿级的对话表上，，，能够做到读写性能的 3 倍的提升。。。。。同时我们举行毫秒级的实时的检索、影象的检索。。。。。不但是图数据库，，，照旧说凯时AG向量数据库，，，都能举行毫秒级的检索。。。。。盘算的资源本钱我们也下降了50%，，，我们能做到秒级的扩容，，，秒级的无感扩容，，，同时凯时AG存储本钱也下降了75%。。。。。杨辛军 01:31:04第二个案例是凯时AG理想汽车，，，理想的智能座舱，，，它的屏幕的交互系统是构建在凯时AG阿里云的数据平台上面的。。。。。以是他可以通过用户来举行 vibe coding，，，他的实时的一些 coding 来改变屏幕上的显示的内容。。。。。后边他每一个爆发的一个数据后边都是有一个我们阿里云的一个数据库在后边，，，这个也是存储了所有数据用户数据的这些习惯能力，，，以是这个是他的通过这习惯能力来衍生出他需要的工具，，，以是这个我们整体上是也是一个推理加速，，，能够提升到凯时AG30%。。。。。由于我，，，他在每次在跟这个屏幕举行交互的时间，，，我们都有一个 INDV 的一个推理引擎，，，来帮客户不但是从影象能力上，，，也从影象能力上来把它推断出他需要的一些信息，，，同时通过这个信息再举行 vibe coding 来爆发所需要的界面。。。。。整个这个数据库的一体化的能力，，，把这个 vibe coding 的能力提升了 10 倍。。。。。杨辛军 01:32:19第三个案例是凯时AG一个头部的模子公司，，，也基于我们数据库的 agentic lakebase，，，构建了它的 agent 的底座。。。。。这个也是我们适才说的，，，我们能够举行快速的举行弹性扩容和弹性缩短。。。。。以是一般 agentic 的他们的头部的模子公司在他的网页上爆发的agent，，，一般是能够同时在支持 20 万个 agent 使用，，，可是有更多的 agent 它是在休眠的状态。。。。。以是我们是能够把它所有的数据，，，这些休眠的 agent 举行。。。。。打包举行，，，把它放到存储上，，，在使用的时间把它可以取出来，，，举行快速的激活，，，从休眠状态回复到，，，激活的状态。。。。。以是这个我们这个弹性能力提供了，，，承载了它的流量，，，能够提高 10 倍。。。。。同时我们能够做到它的金融级别，，，适才说的数据的清静，，，金融级别的隔离。。。。。以是我们能够把它的所有的用户的数据举行加密，，，同时举行租户的隔离。。。。。同时举行他的同时tracking，，，每一个 agent 我们都知道他做了些什么。。。。。以是整体上。。。。。本钱降低了70%。。。。。好的，，，我今天的分享就到此为止，，，谢谢各人。。。。。

Andr Pro产品认真人龙东恒：从“天生代码”到“交付价值”，，，“人可以不懂 Infra，，，但 Agent 必需更懂”

主持人 01:33:56

谢谢杨辛军先生。。。。。从应用的天生到价值的交付，，，智能体正在缩短从创意到产品的整条链路。。。。。接下来有请 Andr Pro 产品认真人龙东恒带来分享——Agentic Infra：加速从应用天生到价值交付。。。。。

龙东恒 01:34:23

各人好，，，我叫 Chris，，，来自 Convergence 团队。。。。。今天很兴奋能够作为 ADV 的客户代表，，，来跟各人分享一下 Web Coding 上我的一些判断。。。。。

已往一年，，，AI 已经将应用天生从几个月缩短到了几周、几天，，，甚至几个小时。。。。。但我们知道，，，真实的营业系统不会由于代码交付了就自动跑起来——我们还需要数据、安排、权限、清静以及可一连的运营。。。。。以是今天我想分享的一个焦点判断是：vibe coding 的下一个阶段，，，不但是把应用天生得更快，，，而是要交付得越发完整。。。。。

Enter 正在构建 Agentic Infra，，，阿里云 ADB 是其中很是要害的组成部分。。。。。接下来我会连系 Enter 的营业情形，，，先容我们为什么需要 Agentic Infra，，，以及 ADB 是怎样资助我们从应用天生走向价值交付的。。。。。

在先容 Enter 之前，，，我先简朴先容一下它背后的主品牌 Converge AI。。。。。它是一个很低调但颇具实力的品牌。。。。。主理方希望我用一些数字让各人有直观感受，，，我想了一下——我原本可以讲我们有近百万的用户规模、数十万的构建项目，，，以及数万核的算力。。。。。

龙东恒 01:35:47

但最后我选择了"一"。。。。。为什么
？？？？由于"一"与我们品牌的契合度最高。。。。。Converge，，，英文寄义是"收敛"。。。。。我们不是要再做一个伶仃的 AI 工具，，，而是希望用一个平台承载差别领域的智能，，，让个体的智能最终能够汇聚成组织可以一连使用的能力。。。。。一即无限，，，一即无限，，，同时这个"一"也代表着我们想做更大数字的一点野心。。。。。

龙东恒 01:36:16

这张图展示了我们现在的产品结构。。。。。左侧是创意与营销：Freemian 是我们一体化的创意与营销事情室，，，Concant 是我们数据驱动的 AI CMO。。。。。右侧是软件与游戏：Enter 认真软件的创立与交付，，，Combos 认真把游戏创意酿成可以现实嬉戏的天下。。。。。这些产品看似服务于差别的场景，，，但实质上我们只关注统一件事——AI 不但是天生简单的内容，，，而是要把真正有价值的效果交付给用户。。。。。

龙东恒 01:36:44

今天由于产品较量多，，，我们先重点聚焦在 Enter，，，看它是怎样从代码天生的 Coding Agent 转向真正为用户交付价值的 Delivery Agent。。。。。

着实 Enter 正在举行一次能力界线的升级。。。。。Coding Agent 解决的是代码天生，，，但忽略了云服务基建以及恒久谋划所需要的知识，，，而这些才是营业能够快速冷启动、一连运营的要害。。。。。为此，，，Enter 在代码之上做了更强的延伸，，，为客户提供了相对完善的企业服务。。。。。

龙东恒 01:37:31

Agent 依然是所有交互的起点，，，但我们会同步配套更多的服务。。。。。好比 Infra，，，我们内部戏称"小阿里云"——以是阿里云若是有好的服务，，，接待拿出来一起用。。。。。除了 Infra 以外，，，我们还会有设计板块，，，以及面向特定行业可以直接使用的专家知识，，，好比做电商自力站。。。。。

最为要害的是 Solutions——那些已经被沉淀并应用在各个场景中的解决方案，，，用户是否可以直接拿来用
？？？？这一套组合战略决议了，，，Enter 要做的一定是端到端的价值交付，，，而不是某条链路中的某个简单环节。。。。。

龙东恒 01:38:12

为什么要有这种转变
？？？？着实也很简朴，，，由于天生的速率已经足够快了，，，但交付依然是一个系统性的工程。。。。。

第一，，，我们
？？？？嫘λ，，，Coding Agent 产品的用户着实不是 Coder。。。。。事实就是这样——各人不需要、也不应该被要求深入明确底层 Infra 的细节，，，在现实操作中我们也做不到让所有人都搞清晰这些。。。。。

第二，，，当资源变得唾手可得的时间，，，必定会泛起爆发式建设的征象。。。。。但其中能够真正被交付、真正有价值的需求着实很少，，，这意味着大宗资源被建设出来之后会被闲置，，，闲置就是铺张，，，铺张就会推高本钱。。。。。

龙东恒 01:38:56

第三，，，先不说怎样谋划好一个网站，，，单就交付历程而言，，，将某些操作行为托付给 Agent，，，就必定带来异常与过失的风险。。。。。

以是，，，要解决交付的问题，，，就必需先解决底层服务的易用性与可控性问题。。。。。这意味着我们需要把云资源的使用方从"人"转变为"Agent"——人可以不懂 Infra，，，但 Agent 必需更懂 Infra。。。。。同时，，，Infra 对 Agent 必需是可明确、可挪用、可治理以及可审计的。。。。。

这一页正是 Enter 作为 Delivery Agent 真正建设的焦点逻辑。。。。。用户说"帮我做一个点菜系统"，，，我们要做的不但是把网页做出来，，，而是把数据库搭起来、域名分配好、网站安排完——这是一套系统性的行动。。。。。

那么我们怎么做
？？？？第一，，，表达价值的部分，，，依然是用户在产品中可见的功效
？？？？。。。。。第二，，，也是最主要的部分，，，凯时AG Enter Agent 要承上启下，，，掌握最完整的上下文，，，既最懂营业，，，也最懂 Infra。。。。。第三，，，向下看，，，Agentic Infra 的精髓在于：Agent 不是去挪用某个单点工具，，，而是将 Git、Sandbox、Runtime 等服务，，，以及这些服务下的 Checkpoint、Provision 等特征，，，统一组织成一条可恢复、可审计的行动序列，，，全程用户零干预或弱干预。。。。。

以是各人看到了吗
？？？？Coding Agent 更关注代码，，，而 Delivery Agent 更关注全局，，，这是两者最要害的区别。。。。。

龙东恒 01:40:41

在 Agentic Infra 里，，，作为底层的数据服务也必需随之一起演进，，，才华实现这个目的。。。。。为什么
？？？？由于用户需要的不是一个"我可以自己操作的数据库实例"，，，而是一套"能被 Agent 直接挪用的数据服务"。。。。。用户用的不是数据库，，，用户用的是 Agent，，，Agent 再去使用数据库——我以为这一定是个趋势。。。。。

龙东恒 01:41:03

项目最先时，，，Agent 要做 Provision；；试错时要拉出一个新的分支；；闲置时要进入休眠。。。。。所有这一系列行动，，，都依赖于将背后 Serverless、Sandbox 以及统一存储的重大能力，，，封装成稳固的接口服务，，，开放给 Enter 使用。。。。。云云一来，，，就能实现云资源使用方从"人"转变为"Agent"。。。。。

龙东恒 01:41:26

这里不得不说，，，ADB 向 Agentic 演进的思绪，，，与 Enter 构建 Agentic Infra 的偏向高度一致——有一种修行路上终于遇到道友的感受。。。。。

这套系统能给我们带来哪些价值
？？？？

第一个价值是清静。。。。。 最要害的机制是 Checkpoint。。。。。这个 Checkpoint 不是一个简朴的 Commit，，，也不但是一个数据快照，，，而是某一完整时刻下营业的全量切面——代码层面指向提交文件与依赖，，，数据层面指向 Schema、Data 和恢复点，，，逻辑层面有 Function、设置、Runtime 与 Storage。。。。。用户在 Enter 里每完成一次需求交付，，，都可以选择天生一个目今控制面与数据面的切面节点，，，并在后续恣意时间点恢复到该切面。。。。。这有点像打游戏的 SL 大法——Save and Load，，，存档与加载。。。。。

龙东恒 01:42:32

当过失修正的本钱无限降低时，，，我们是不是就可以更大力度地勉励立异，，，更快地交付、更多地试错，，，从而更靠近乐成
？？？？

第二个价值是效率。。。。。 在我们这类对话式产品里，，，用户期待的历来不是"一个数据库被建设"，，，而是"营业系统被交付"。。。。。这套能力能让我们建设一个实例不到一秒，，，叫醒或新开一个沙箱也只需约一秒。。。。。这些数字单看可能没什么感受，，，但在真实的用户行为数据上我们发明，，，用户从提出需求到拿到效果，，，整个历程是没有断点的。。。。。作为交付 Agent，，，我们既要有量，，，也要有速率——而许多时间，，，速率才是新用户转化的第一个体验。。。。。

第三个价值是本钱。。。。。 云资源的生长趋势必定是用几多付几多，，，就像模子按 Token 用量计费一样，，，无邪是大偏向。。。。。在 Enter 里，，，我们一方面要包管用户体验，，，另一方面要控制本钱，，，因此我们有一套动态战略：免用度户可以先使用多租共享池，，，举行营业早期的试用；；完成探索之后，，，再无缝迁徙到拥有更多规格、更多 Region、具备 SLA 包管的独吞资源中。。。。。

龙东恒 01:43:52

这一切都得益于 ADB 提供的存储底座、迁徙编排以及 Auto Scale 能力，，，让整体资源本钱随营业活跃度动态转变，，，对我们和用户都有很大的价值。。。。。

在这套系统下，，，我们取得了一些效果：现在 Enter 已经服务了数十万用户，，，为他们构建了上百万个 Agent，，，尚有数万核的算力在为他们效命。。。。。要害是——本钱降低了不少。。。。。

龙东恒 01:44:34

通过这些数字，，，我想说的是，，，Agentic Infra 不但是一个停留在手艺层面的看法，，，而是一套已经在真实营业中被验证的交付底座。。。。。

回到今天的主题，，，Enter 始终以为代码只是起点。。。。。作为 Web Coding 平台，，，我们真正要交付的是一个能运行、能谋划、能一连生长的营业。。。。。而做到这一点，，，Enter 背后需要更快、更清静、更可规；；氖莼∩枋。。。。。

接下来，，，我们也希望能与 ADB 在以下几个偏向睁开更多相助：第一，，，在 Workflows 与多 Agent 协同上一连相助，，，提升营业竞争力；；第二，，，完善单租、多租以及无缝迁徙这一整套弹性数据底座；；第三，，，探索能否将我们在规模、清静、本钱以及 SLA 上积累的履历，，，沉淀为可复用的最佳实践，，，在行业中推广。。。。。

龙东恒 01:45:32

我们最终希望实现的是：Enter 的用户在这里提出一个目的，，，我们就把它完整地交付给他。。。。。

谢谢各人，，，我是 Converge 的 Chris，，，接待各人来体验 Enter——很是有意思，，，值得一试，，，谢谢！

阿里云智能集团云清静产品认真人祝建跃：机械身份数目已逾越人类，，，近40%AI Agent项目或因清静风险失败

主持人 01:45:52谢谢龙东恒先生。。。。。智能体越自主，，，清静的界线就越主要。。。。。接下来有请阿里云智能集团云清静产品认真人祝建跃带来演讲，，，以 agentic 原生清静构建可信的智能体。。。。。祝建跃 01:46:20各人上午好，，，很兴奋能在这里给各人分享一下阿里云清静关于 Agent 清静的一些思索和实践。。。。。刚刚前面的嘉宾们都先容了，，，今天凯时AG Agent 着实融入了生涯的方方面面。。。。。可是当 Agent 快速生长的时间，，，我们怎么样能够去构建一个可信任的智能体，，，让它真正的能资助营业实现快速的增添以及效率的提升
？？？？那首先我们来看一个数字，，，就今天我们 Agent 快速生长。。。。。它今天和凯时AG真正实现高效的增添之间，，，它有一个什么样的鸿沟
？？？？各人可以看到，，，今天我们 agent 的机械身份的数目，，，它已经远凌驾了人类。。。。。祝建跃 01:47:09这个数字代表着今天我们和 agent 着实是处在了一个共生的情形，，，而不是说只是一个辅助品。。。。。凯时AG凭证报告也可以看到，，，着实有 57% 的企业也安排了agent，，，可是这内里有一个数字，，， Gartner 来讲，，，快要 40% 的项目会由于清静风险。。。。。管控的问题，，，导致项目的失败。。。。。为什么会的会有这么一个 gap 呢
？？？？营业的快速的生长以及凯时AG清静风险，，，为什么会项目会导致项目失败
？？？？这内里从两方面，，，我们一起来看一下。。。。。第一方面，，，当 AI 快速生长的同时，，，它同样在资助黑客能够以越发高效的方式去找到你营业当中的误差。。。。。凭证 Crossjack 的报告，，，这内里可以看到。。。。。快要就是百，，，他已经赋能了90%，，，平均 29 分钟就能导致你的营业系统能够被攻破。。。。。第二个呢，，，各人可以看到，，，凭证统计的误差啊，，， CVE 的误差，，， 2026 年已经有 20 家的 agent 的爆发了 20 家的 agent 误差，，，其中有 9 个以上都是一个高危误差。。。。。什么样叫做高危的误差
？？？？今天我们可以正在这里就可以把 agent 所运行的情形直接攻破。。。。。祝建跃 01:48:35最近有一个 langflow 的误差啊，，，它是九点几分的。。。。。各人都知道你可以通过 langflow 去搭建你的 agent 的整个的框架。。。。。当你它所报的误差是它有一个 web UI 内里有一个 RCE 的误差。。。。。这个误差爆发，，，它其时是 20 小时，，，当它清静误差公密告出来的时间，，， 20 小时在线上就已经爆发了真实的攻击乐成的样例，，， 25 小时数据就被窃取了。。。。。祝建跃 01:49:06各人可以看到，，，从各人的 agent 的生长到清静的风险，，，凯时AG羁系机构，，，它也给了我们很是多的指导啊。。。。。好比说凯时AG网信办，，，它发了 agent 的指导的框架，，，以及我们在 OpenCloud 出来的时间，，，着实会有六要和六不要。。。。。这内里可以看到，，，像欧盟啊，，，它有 AI 的法案，，，当你爆发了 agent 的风险，，，最高可能碰面临 7% 的营收的处分。。。。
？？？？梢运，，， Agent 今天关于各人来讲，，，它规；；才诺奶跫，，，清静是很是很是须要的，，，否则它只能是会酿成你营业的壅闭器。。。。。祝建跃 01:49:49围绕这一个风险，，，我们站在整个今天的 Cloud 阿里云的视角，，，我们是怎么样来思索，，，怎样来解决这些风险
？？？？我们提出了三层统逐一体化防护的理念。。。。。我们可以看到最底层的云的基础设施层，，，前面着实列位嘉宾都讲到，，，我们怎么样把清静融进基础设施，，，能够越发好的去包管它盘算情形的清静。。。。。凯时AG模子的推理服务层，，，我们怎么样能够更好的包管模子到模子之间的输入输出
？？？？它是清静的。。。。。祝建跃 01:50:25再到现在非；；鸬，，，我们去构建 agent 的应用层。。。。。 agent 应用层，，，你去挪用工具，，，你所使用的数据，，，你的行为，，，我们怎么样更好的去做到全链路的可视察，，，以及它清静风险的洞察。。。。。只有这三层统一，，，酿成缺一不可。。。。。我们来看看，，，这是我们所讲的理念，，，它绝对不是停留在 PPT 上的一个理念。。。。。我们今天在阿里云上已经真实把它举行了一个落地。。。。。我们讲清静理念，，，着实很是很是焦点的一个经典的个框架，，，着实是叫做，，，当你清静事务爆发前，，，你事务正在被攻击时，，，以及你。。。。。被攻击后，，，我们叫事前事中的一个系统。。。。。事前你要最焦点的，，，你能够看得清，，，你是不是能够看到你所有的资产
？？？？当你事中的时间，，，你能不可够实时的发明，，，去阻断这个风险
？？？？当你在事后，，，你真正爆发清静事务之后，，，你能不可够做到全链路去回溯，，，去把整个的攻击链路去把它还原出来，，，找到真正的风险点究竟是在那里
？？？？这一套事前事中的系统，，，我在接下来我们是怎样把它落在阿里云清静的产品的系统当中
？？？？我先容一下我们 1 + 2，，， 1 是什么
？？？？是指的是我们 Agent 清静中心产品，，，凯时AG一个平台型的产品，，， Agent 清静中心。。。。。在在事前的时间，，，我们是围绕凯时AG基础设施、凯时AG模子、凯时AG应用，，，我们举行了全资产的识别。。。。。在凯时AG中心层，，，除了识别之后，，，我们会去发明这内里它哪些使用的中心件，，，它使用的组件有对应的这个风险，，，我们已经上线了。。。。。祝建跃 01:52:12150 家的针关于这样误差的检测，，，它是在我们在之前能够去真正的把资产盘货清晰，，，把风险检测清晰。。。。。同时我们也提供了 AI red team 的能力，，，能够给 agent 一连的去做渗透测试，，，资助我们能够更快的去发明你究竟有哪些清静风险。。。。。这个是 agent 清静中心的事前，，，在事中围绕 agent 全链路，，，从用户的输入到上下文，，，再到它整个的推理意图去执行工具，，，再到。。。。。推理之后，，，它的输出，，，我们构建了整个运行时的清静。。。。。那焦点来讲，，，今天运行时的清静，，，一是在你输入的时间，，，现在有提醒词的直接注入，，，也有提醒词的间接的注入。。。。。祝建跃 01:53:00那前面我讲的在高危误差当中，，，有一个很是高危的误差，，，着实是 LangChain 的误差。。。。。那它的误差是什么呢
？？？？用户输入的时间，，，他输的是一个有带着恶意信息的一个prompt。。。。。那当他输给这个 LangChain 执行，，，他去挪用模子的时间，，，那诱骗了模子，，，模子返回了一个带着恶意指令的信息。。。。。祝建跃 01:53:24langchain 执行，，，它直接直接吐给了攻击者。。。。。攻击者拿到这个密钥之后，，，他可以径直地入侵到他底层的英法层。。。。。以是我们从模子，，，用户接 agent 吸收到了输入，，，到他整个意图的推理去执行哪些工具，，，再到他输出，，，我们去了全链路的运行时的检测和做过滤。。。。。祝建跃 01:53:50虽然这一个各人可以看到这内里分了五步，，，以为用起来着实很是重大，，，往往不是，，，我们已经把这个产品融入了凯时AG百炼，，，融入了凯时AG。。。。。 AI 的清静网关，，，能够让用户越发简朴易用的去开启我们这个产品。。。。。它全链路的延时，，，我们也是控制在了 100 毫秒、 120 毫秒以内。。。。。祝建跃01:54:11有了这个之后，，，我们着实再来看一下事后。。。。。这个着实在我们前面的嘉宾内里也讲到，，，和云原生的 agentloop 去做整体的一个日志的买通。。。。。我们会基于 agentloop 去做全链路的攻击行为的溯源，，，以及事后的风险的还原，，，做进一步的深度的检测。。。。。这个产品我们除了。。。。。祝建跃 01:54:34有 agentloop 的日志源之外，，，我们也提供了一个插件，，， rust 的插件，，，你可以直接集成到凯时AG agent 内里，，，做到实时的日志的收罗和风险的洞察。。。。。这一个是我们前面，，，目今讲的，，，从事前、事中、事后，，，整一个的围绕 agent 来构建的 agent 清静平台。。。。。祝建跃 01:54:58讲的两个奥，，，为什么会要讲两个奥
？？？？今天面向 agent 的风险，，，它着实越发的严重，，，我们必需把清静做在事前。。。。。第一个 2 当中的第一个是凯时AG身份，，，身份你必需得在事前举行妄想，，，才华够在你真正 agent 上线之后，，，能够做到每一个 agent 你有对应的身份，，，你能够针关于 agent 像人一样去做身份权限的管控。。。。。焦点的来讲，，，我们所构建的 agent 的 id guard，，，它会给每个 agent 揭晓身份，，，你可以知道，，，今天你的应用究竟是哪一个人，，，哪个 agent 今天对你的应用举行了会见和操作。。。。。祝建跃 01:55:43这内里有一个很是的，，，当它上线之后，，，凯时AG它的凭证，，，往往刚刚前面讲的例子，，，它的凭证被盗走了，，，我们 agent 的 ID Guard，，，它提供的是一个暂时的凭证，，，举行动态的轮询，，，它能够做到一段时间就换更新一个凭证，，，这个是实现了让每个 agent 能够实名上岗，，，最小权限，，，能够权责清晰。。。。。祝建跃 01:56:08第二个我们讲的左移的风险，，，是围绕各人刚刚前面讲的agent，，，它能够自己去写自己的代码。。。。。你可以想想你能够放心一个 agent 写代码的时间，，，直接 commit 到你的线上的生产系统。。。。。围绕这样的场景，，，今天我们怎么样去解决呢
？？？？我们提供了一个 agentic 的代码清静，，，它着实是两方面，，，一，，，它的整个的代码清静，，，我们和凯时AG Git 和凯时AG CICD 的流程举行了买通。。。。。第二，，，我们也是通过 AI 来提升我们整个代码清静的能力，，，我们相比古板来讲，，，它的准召率有很是显着的提升。。。。。它的修复的时间也可以让你从误差到线上能够酿成是在代码宣布的时刻，，，只管多的去爆发。。。。。昨天呢，，，着实凯时AG Coder 团队啊。。。。。也举行了一个联合的宣布，，，凯时AG产品也可以在 Coder 的内里举行直接的开箱即用，，，做到了一个真正的一个Native，，，而不需要说今天你还要特另外去做一个集成。。。。。那这里就是我们前面讲的 1 + 2，，， 1 一个平台，，， 2 它是两个左移，，，那这是一个整套的系统，，，它缺一不可。。。。。祝建跃 01:57:26那回到我们今天。。。。。 agent 的我们自身的产品，，，怎么样能够让用户更简朴、更易用的来用凯时AG产品
？？？？我们原来有 10 多个清静产品，，，今天我们这 10 多个清静产品都在阿里云的 SKILLS 的官网上面上线了凯时AGSKILLS。。。。。这个 SKILLS 你可以通过自己的agent，，，也可以通过三方的 agent 来举行提供。。。。。我们上线之后，，，现在已经有 300 家的用户，，，天天的挪用量有 50 多万次。。。。。我们也提供了，，，为中小的用户啊，，，提供了一个整个的清静运维的 agent 平台，，，你可以直接在这个平台上面去。。。。。去做你的误差的剖析，，，去做报告的天生，，，以及去做一连的清静风险的监测和自动化的响应。。。。。祝建跃 01:58:14那有了你可以用 agent 去管之后，，，那今天我们各人可以看到，，，我们不管是 agent 去管，，，照旧说我们资助 agent 去提前往做清静的防护，，，那我们今天它究竟是不是一个 PPT 上的呢
？？？？那绝对不是，，，那经由凯时AG一连阿里云十多年清静的沉淀积累啊，，，我们也获得了很是多的业界的认可。。。。。祝建跃 01:58:40首先在凯时AG英发层，，，这个是我们积累最深的，，，不管是我们在我们古板的原型中心WAFF，，，我们在市场的占有率着实是一连的第一。。。。。凯时AG内里的身份的清静也是整个 Gartner 的魔力象限当中亚太的唯逐一家。。。。。我们新生长的模子层和凯时AG agent 层，，，在凯时AG模子层内里，，，我们也获得了 IDC 内里的，，，不管是在。。。。。手艺的数据的剖析，，，内容的天生以及模子的剖析，，，我们是在三个方面获得周全的第一。。。。。那在最上层的 agent 的应用啊，，，我们也获得了在市场和手艺能力的第一。。。。。以是这一些经由我们前面十多年的积累，，，它绝对不是一个，，，就是停留在 PPT 上。。。。。今天我们所讲的这些能力，，，各人都可以在阿里云的官网上一连的可以去获得。。。。。

祝建跃 01:59:34那有了凯时AG这些履历，，，我们也很是愿意的把它分享给各人。。。。。那我们今天正式的去宣布凯时AG AI agent 的清静的最佳的实践。。。。。各人可以在这个报告内里去获得，，，我们是怎么样去思索凯时AG三层防护系统的
？？？？我们是怎么样能够把它酿成我们 AI native 化，，，融入到我们各个产品当中的
？？？？以是说到最后，，，我希望各人给我，，，再给我点时间，，，我来总结一下，，，我们今天焦点想和各人分享的内容。。。。。祝建跃 02:00:05第一点是整个 agent 的清静，，，在当下它不再是一个可选项，，，它是今天各人营业生长当中的一个必选项，，，否则你的 agent 只会成为一个准时的炸弹。。。。。第二，，， agent 清静，，，它是需要从 infra 层、从模子层、从应用层三层防护系统，，，缺一不可。。。。。当你只做到了其中的一项或者是两项，，，那你也不是一个完整的体，，，那你的清静的风险敞敞口永远是洞开的。。。。。第三，，，你要去打造这么一个三层的系统，，，清静的外挂，，，它在落地上是有很是大的本钱的，，，那我们需要把它以 AI native 原生的方式融入到。。。。。凯时AGinfra模子应用当中去，，，能够让企业来使用清静的时间，，，它是以最小的本钱，，，又能获得最高的收益。。。。。好，，，谢谢各人，，，我们一起起劲构建可信任的智能体。。。。。

阿里云智能CTO官李飞飞、PyTorch Foundation执行董事：AI SaaS将转向“按效果付费”，，，模子不再是唯一焦点

主持人 02:01:13谢谢祝建跃先生。。。。。接下来我们进入精彩的对话环节，，，有请对话嘉宾阿里云智能集团首席手艺官李飞飞。。。。。 PyTorch 基金会执行董事，，， Mark Collier，，，掌声接待。。。。。

李飞飞　02:02:21

哈喽，，，各人好！Mark，，，很是谢谢你来加入凯时AG论坛。。。。。你在中国很著名，，，由于你向导着 PyTorch 基金会。。。。。我们许多人都从 PyTorch 项目中受益匪浅，，，无论是为 PyTorch 孝顺想法，，，照旧使用 PyTorch 的种种项目和
？？？？。。。。。

事实上，，，我们适才还和 Kai Chao 坐在一起，，，他是 vLLM 的联合首创人。。。。。vLLM 是当今推理领域的焦点基础，，，许多人都知道它。。。。。

以是我的第一个问题是：你能简朴先容一下你自己，，，以及 PyTorch 基金会吗
？？？？请概述一下你们的使命是什么，，，你们关注什么，，，我们怎样孝顺实力，，，以及我们怎样配合生长。。。。。谢谢。。。。。

Mark　02:03:21

很是谢谢你们的约请。。。。。自从 2010 年我加入建设 OpenStack 以来，，，我来中国已经有 16 年了。。。。。我从事开源事情约莫 20 年了，，，现在专注于 PyTorch 生态和 PyTorch 基金会，，，基金会的事情也包括支持其他项目，，，好比 vLLM。。。。。很兴奋见到 vLLM 的首创人，，，几天前我们刚在上海加入了一个很是受接待的 vLLM 聚会。。。。。

凯时AG使命是——若是你纵观人工智能的三大支柱：训练、推理和智能体，，，就会发明，，，作为一个非营利基金会，，，我们很是幸运地获得了像阿里巴巴这样的公司的支持，，，资助我们构建了这样一个社区。。。。。这个社区编写的软件被凌驾 90% 的实验室和公司用于模子训练。。。。。PyTorch 作为开源软件已经保存很长时间，，，并已被充分证实是现在最好的模子训练软件。。。。。

Mark　02:04:24

在推理方面，，，我们支持 vLLM，，，它很是盛行。。。。。虽然，，，我们也谈判到 SGLang。。。。。现在有许多开源项目都支持 SGLang，，，这对解决这类问题至关主要。。。。。现实上，，，我以为有些问题基础无法用其他方式解决，，，由于这需要大规模的协调，，，需要让天下各地的人一起事情，，，任何一家公司都无法单独完成。。。。。这就是开源的魅力所在。。。。。

Mark　02:04:56

谢谢您的概述。。。。。我很是认同您所说的，，，尤其是最后一句——没有哪家公司能够单独完成这项事情，，，我们需要配合起劲、携手相助。。。。。我也很是赞许您提到的 AI 的三大支柱：训练、推理和智能体。。。。。虽然，，，今天论坛的主题是智能体。。。。。但在深入探讨智能体之前，，，我想先听听您对训练和推理的看法。。。。。

Mark　02:05:27

先说说训练。。。。。PyTorch 是训练的焦点，，，许多公司，，，包括我们阿里云，，，都使用 PyTorch 来构建训练能力。。。。。事实上，，，我们最近很是幸运地宣布，，，阿里云成为了 PyTorch 基金会的白金会员。。。。。这主要源于我们与 PyTorch 社区的深度相助需求——我们自己的 AI 平台大宗使用了 PyTorch 的
？？？？楹妥榧。。。。。

Mark　02:06:14

很是谢谢 PyTorch 基金会，，，正是有了你们的支持，，，我们才华继续为社区做出孝顺。。。。。我以为这意义非凡，，，我们很是兴奋能获得阿里巴巴更多的支持。。。。。那么，，，您能快速总结一下您视察到的 PyTorch 社区的情形，，，以及最新的训练趋势是什么吗
？？？？

Mark　02:06:44

很是有趣的一点是，，，AI 加速器正在蓬勃生长。。。。。就在几分钟前，，，我们还听到了关于阿里巴巴最新立异效果的先容。。。。。纵观硬件、数据中心、内存带宽瓶颈以及训练等各个方面，，，AI 的前进都带来了重大的挑战。。。。。我以为，，，若是你想拥有一个 AI 加速器并真正用它来训练模子，，，获得 PyTorch 的优异支持至关主要。。。。。为此，，，我们基金会设立了一个多架构事情组，，，致力于支持开发更多差别的后端。。。。。我的配景是基础设施领域，，，从硬件到支持这些硬件的软件，，，这始终是我的专长。。。。。

Mark　02:07:38

当你相识 AI 训练领域正在爆发的事情，，，会发明情形大同小异：人们想要更多选择，，，也需要更多硬件支持。。。。。他们需要能够同时支持训练和推理的替换架构，，，而能够实现这一点的软件层对整个天下来说都具有很是主要的战略意义——它为人们提供了更多选择，，，让他们能够以更经济高效的方式举行训练。。。。。

Mark　02:08:05

从训练到推理再到智能体，，，各个阶段对基础设施的压力都大不相同，，，而拥有这些开放的软件层来支持社区生长就显得尤为主要。。。。。

李飞飞　02:08:32

两三年前，，，当这波 AI 革命浪潮刚刚兴起时，，，人们都在讨论怎样构建统一的训练和推理基础设施。。。。。但正如您所说，，，这种情形越来越少了。。。。。人们现在最先意识到，，，训练和推理对基础设施的需求截然差别。。。。。

李飞飞　02:09:02

说到推理，，，我以为拥有选择权很主要。。。。。针对差别的模子架构，，，组织、公司、开发者可能会想使用差别的推理平台。。。。。关于某些模子，，，也许使用 SGLang 是最佳选择；；而关于另一些模子，，，也许使用 vLLM 才是最佳选择。。。。。

李飞飞　02:09:22

适才我们也聊到了这一点。。。。。vLLM 的首创人今天也在这里，，，他刚脱离。。。。。我也与 SGLang 的另一位首创人盛寅（Sheng Yin）很熟。。。。。以是，，，我强烈建议推动 SGLang 与 PyTorch 基金会的相助，，，这对整个社区来说意义非凡。。。。。

Mark　02:09:50

PyTorch 基金会与 SGLang 之间确实有很好的相助基础，，，我也期待恒久的相助。。。。。让我以为很是有趣的一点是，，，我们现在面临的情形是硬件和软件架构同时爆发根天性的厘革，，，这很是奇异。。。。。我们履历了差别的盘算生长时代，，，但现在，，，我们正试图在全球规模内彻底改变软件架构——新的模子架构一直涌现，，，与此同时硬件也在爆发转变。。。。。而实现这一点的唯一途径是通过开源软件举行大规模的协调，，，例如像 vLLM 这样的项目。。。。。

Mark　02:10:26

SGLang 会在新模子宣布当天就提供支持。。。。。好比 Kimi 3 刚宣布，，，Qwen 模子的下载量已经凌驾十亿次。。。。。为了让这些模子能够乐成落地并被用户使用，，，它们需要这些框架的支持。。。。。vLLM 和 SGLang 会在模子宣布确当天就宣布支持，，，这是须要的，，，只有这样才华真正启用推理事情负载。。。。。

vLLM 的标准宣布节奏是每两周一次，，，这让我以为不可思议。。。。。OpenStack 最初是每六个月宣布一次，，，也就是一年两次。。。。。而现在他们却说，，，在模子宣布间隙，，，每两周就会宣布一次官方版本。。。。。这种快速的转背叛奏，，，以及模子架构和硬件方面的种种转变，，，都在试图同时整合并向前推进，，，正在造成一种复合加速。。。。。这很是重大，，，我以为我们需要全天下团结起来，，，通过开源的方式来应对这一挑战。。。。。

李飞飞　02:11:34

是的，，，转变的速率和复合加速，，，我们也完全感受到了。。。。。现在，，，纵然是统一家公司，，，每隔一两个月就会宣布一款新模子，，，随处都是开源软件。。。。。若是你想捉住新模子的势头并推向市场，，，就真的需要加速接纳速率。。。。。就像您提到的，，，vLLM 对 Kimi 3 的"零日"接纳就是一个很好的例子。。。。。

我以为那些开发职员都不睡觉——中国的开发者和美国的开发者正好相隔 12 小时，，，若是把他们放在一起，，，就可以实现全天候开发了。。。。。

李飞飞　02:12:27

现在我们来谈谈智能体。。。。。所有这些起劲，，，包括训练和推理，，，最终都是为了实现营业事情流程，，，形成营业飞轮。。。。。说究竟，，，总得有人买单。。。。。以是，，，我以为要害在于将智能体融入企业事情流程。。。。。那么，，，您对智能体有什么看法
？？？？特殊是来自北美市场的最新视察和看法
？？？？

Mark　02:13:01

我以为已经爆发了真正的转变。。。。。今年智能体生长迅猛，，，真正主导了 token 的天生。。。。。之前，，，你们的一位演讲者谈到了"token 生产力"，，，我以为这个说法很好。。。。。由于并非所有 token 都一样。。。。。人们正在意识到的一个转变是：模子自己不再是唯一的焦点。。。。。模子虽然很是主要，，，它是智能体的大脑。。。。。

Mark　02:13:38

但现在你还需要思量智能体框架，，，以及你的数据在那里。。。。。我以为，，，在美国和天下各地，，，一个日益增添的趋势是：企业或许应该拥有多个模子，，，或者训练自己的专用模子，，，或者举行强化学习，，，将基于开放权重的模子定制成更小、更大、或更专业的版本，，，以知足特定营业的需求。。。。。这种趋势的兴起原因有许多，，，本钱是其中之一，，，但更主要的是，，，使用一系列差别的模子有时确实可以获得更好的质量。。。。。

那么，，，你怎样协调所有这些呢
？？？？这就是智能体框架的作用所在。。。。。在智能体领域，，，有时你可能拥有多个模子，，，但作为企业，，，你需要控制向差别模子袒露的内容，，，尤其是在混淆使用开放模子和专有服务的情形下。。。。。我以为企业最先越发审慎，，，不但关注本钱，，，还关注模子的用途。。。。。好比，，，他们营业中涉及专有手艺或知识产权的部分，，，可能不希望上传到第三方 API，，，因此会制订更详尽、更重大的战略——使用多种模子，，，并接纳类似"混淆调理"的要领。。。。。

我以为要害点在于：你不但需要调理智能体自己，，，还需要让智能体与所使用的模子解耦。。。。。也就是说，，，智能体需要做出"智能决议"，，，将特定使命分配给差别的模子——你纷歧定为每个 API 挪用都使用最强的模子，，，而是为给定的使命选择最合适的模子。。。。。这正日益成为一个很是主要的趋势。。。。。

李飞飞　02:15:10

是的，，，正如您所视察到的。。。。。我们适才在后台也聊到了这一点。。。。。我实验过一些差别的开源系统，，，好比 OpenClaw。。。。。

Mark　02:15:56

它很是盛行。。。。。最近我也最先使用 Hermes Agent，，，只是想实验一下——建设一些个性化的上下文信息，，，这些信息可以存储在外地或私有系统中，，，这很是主要。。。。。我以为最终我们会走向这样一个天下：智能体的使用现实上有助于刷新整个系统，，，无论是直接反馈到模子训练中，，，照旧建设更多上下文信息反馈到个人助理中。。。。。这有点像 Hermes Agent 背后的理念——你的助剖析凭证你使用它的方式一直学习，，，变得越来越智能。。。。。随着我们围绕模子自己构建基础设施，，，学习历程会泛起出差别的条理。。。。。AI 系统不但仅是一个模子，，，我以为人们现在正在意识到这一点。。。。。

李飞飞　02:16:51

好的，，，那么我的下一个问题是：从我们现在所处的位置，，，到"智能体无处不在"的未来——假设我们展望两三年后，，，企业事情流程中大部分事情都将由智能体完成——我们与目的之间的差别是什么
？？？？我们需要做些什么才华从现在过渡到谁人目的
？？？？您对此有何看法
？？？？

Mark　02:17:17

以我们现在的生长速率，，，三年后的未来感受就像一百年那么漫长，，，由于种种因素都在叠加、加速生长。。。。。但我以为，，，许多事情都将围绕着一个焦点睁开——微软的 Satya 最近也谈到了这一点——那就是公司或企业的未来事实是什么
？？？？这现实上是在思索知识型事情的实质：公司的焦点价值、目的或功效是什么，，，以及其中哪些部分可以被智能体替换。。。。。

我们必需思索的是：现实效果在那里
？？？？公司需要思量能够交付什么效果，，，由于客户最终为效果付费。。。。。你们之前约请的那位来自卡车运输行业的演讲嘉宾很是精彩，，，他着重强调了赋能差别类型的司机、强调效果导向，，，并试图建设一个基于现实业绩的市场。。。。。一旦有人接受了这种模式，，，接纳率很快就能抵达 70% 左右。。。。。

以是我以为这或许预示着我们未来在智能体方面的生长偏向：将效果置于一切之上——这正是客户一直以来所期望的，，，而现在我们终于实现了这一点。。。。。某种水平上说，，，这需要找到一种要领，，，通过差别的评估框架，，，让各公司建设一套系统来判断哪个模子最有利于实现预期效果。。。。。我以为这会推下手艺的生长。。。。。

李飞飞　02:19:19

从市场角度来看，，，我认同您的看法。。。。。纵观整个 SaaS 行业，，，企业购置软件服务是按效果付费订阅，，，而不是按资源消耗量——CPU 周期或内存使用量——来定价的。。。。。例如，，，使用 SAP 解决了什么详细问题，，，客户愿意为此支付几多，，，是基于营业价值来定价的。。。。。

以是我展望，，，我们很快就会从现在迁徙到智能体服务的模式——这些智能体旨在解决特定使命和特定问题，，，而客户为最终效果付费。。。。。虽然，，，其中一个很是主要的支柱是，，，基础设施中的推理以及整个模子加推理的实现方式，，，应该能够为客户和智能体带来规模经济效益，，，一连降低每百万 token 的本钱。。。。。但归根结底，，，你需要这些智能体将数百万个 token 真正转化为营业价值。。。。。

Mark　02:20:39

将智能单位转化为对营业效果至关主要的行动，，，我以为这才是准确的偏向。。。。。这样做对开源和我们所做的一切事情谊味着什么
？？？？那就是优化带来的回报是重大的。。。。。由于客户会说：我不在乎本钱，，，我不在乎需要几多 GPU，，，我只想为效果付费。。。。。但总得有人为所有这些 GPU 和数据中心买单。。。。。

Mark　02:21:09

最近有一个很好的例子，，，是关于 DeepSeek 推理的软件优化事情：六个月内，，，token 本钱降低了 60%。。。。。凭证一项已揭晓的案例研究，，，在完全相同的硬件上实现了近三倍的吞吐量——硬件没有改变，，，但吞吐量却提高了三倍，，，完全归功于软件优化。。。。。这意味着我们所做的事情具有很高的经济价值，，，由于若是我们能够通过配合起劲提高推理效率、实现云云重大的飞跃，，，最终客户将会受益匪浅。。。。。

李飞飞　02:21:54

经济飞轮会以此为动力继续运转，，，我们会一直加大投资，，，并一连优化基础设施各层面的手艺栈。。。。。

李飞飞　02:22:06

好的。。。。。为了节约时间，，，我想问最后一个问题：您对 PyTorch 基金会现在正在举行的活动有什么先容
？？？？在智能体领域，，，有哪些很是受接待或即将举行的开源项目或活动值得我们关注
？？？？

Mark　02:22:30

从基金会的角度来看，，，PyTorch 基金会确实越来越关注我们怎样训练模子、怎样使用工具，，，以及智能体正在突破的极限。。。。。

Mark　02:22:51

别的，，，我们最近还建设了 Agentic AI 基金会，，，就在几个月前。。。。。接下来我们有许多活动：九月初，，，我们将在上海举行 PyTorch Con，，，之后还会举行一场 Agent Con；；十月份，，，我们还将在加州圣何塞举行另一场活动，，，这是 PyTorch 的年度大型峰会，，，紧接着也会举行一场 Agent Con。。。。。

Mark　02:23:23

很显着，，，MCP 是要害的推动因素，，，它在已往一年左右的时间里迅速生长，，，从零到百，，，极大地引发了人们对 Agentic AI 手艺栈的兴趣，，，尤其是在协议层面。。。。。

Mark　02:23:42

我们基金会正在起劲通过种种活动将各人群集在一起。。。。。我很是期待九月份能再次来到上海加入凯时AG大型活动，，，希望在座的列位都能加入其中。。。。。

李飞飞　02:24:07

很是谢谢 Mark 分享这些信息。。。。。从阿里云的角度来看，，，我们一定会认真研究您提到的 Agentic AI 基金会，，，并很是愿意与你们在这个基金会上睁开相助。。。。。今天加入或在线加入聚会的朋侪们，，，请记着 Mark 适才分享的信息。。。。。

李飞飞　02:24:22

九月份在上海，，，PyTorch Con 和 Agent Con 将会同期举行。。。。。我们九月初将回到上海，，，敬请期待。。。。。很是谢谢 Mark 抽出时间，，，我相信现场和线上的观众都能从这次对话中学到许多。。。。。期待 PyTorch 基金会、Agentic AI 基金会与阿里云之间建设起很是牢靠的相助关系。。。。。很是谢谢！主持人 02:24:57谢谢李飞飞博士，，，谢谢 Mark Collier 先生，，，谢谢每一位嘉宾的分享，，，谢谢在座列位的聆听！ Agentic Cloud 智能体时代的基础设施论坛到此圆满竣事！阿里云在本届天下人工智能大会上还将有更多精彩内容，，，接待关注！我们在上海世博展览馆 H1 馆 C101 展位打造了陶醉式体验区，，，接待列位旅行！再见！