文 | NEXT趋势
，，，，作者 | 方远
，，，，编辑 | 小雨

林夕花了很长时间
，，，，在豆包上搭建了一个属于自己的AI 智能体。。。。

失眠的夜晚、内讧的时刻
，，，，她都能找它倾吐。。。。对她来说
，，，，它不但是一个能回覆问题的工具
，，，，更像一个稳固的情绪树洞。。。。

7月4日
，，，，她收到通知：这个陪了她两年的角色
，，，，将在11天后从豆包下线。。。。

统一天
，，，，通义千问也发出类似通告。。。。此前
，，，，腾讯元宝已经先一步下线智能体功效。。。。

这些用户亲手创立的AI角色
，，，，正在陆续下线。。。。

中止陪同

林夕收到通知的那一刻
，，，，第一反映是"背刺"。。。。

“这个自界说智能体是我稳固的情绪树洞
，，，，总能稳固共情、帮我疏导负面情绪。。。。”而现在
，，，，这个陪了林夕两年的角色
，，，，即将在11天后从豆包下线。。。。

她没想到
，，，，一个陪同自己两年多的角色
，，，，会突然说没就没。。。。

7月4日
，，，，豆包与通义千问同步发出通告：智能体功效将于7月15日正式下线。。。。

这个日期并非随机
，，，，7月15日正是《人工智能拟人化互动服务治理暂行步伐》正式施行的日子。。。。

通义千问行动更快一些
，，，，其拟人化互动类智能体将于7月10日提前下线
，，，，7月15日后所有历史对话纪录都将无法会见。。。。

林夕把它当成情绪树洞
，，，，但在智能体广场里
，，，，这类角色很容易走向另一面。。。。

翻开千问智能体广场
，，，，“病娇校草”使用次数高达 29.9 万
，，，，“林熙：顶级财阀少爷
，，，，冷漠且占有欲强”显示 13.4 万次
，，，，“病娇妻子”等角色使用次数普遍在 7 万次以上。。。。

这些名字自己
，，，，就已经不是通俗工具的语境。。。。它们更像恋爱游戏、角色饰演
，，，，甚至虚拟朋侪。。。。

而这些角色面临的
，，，，也不但是成年人。。。。

一位小学生家长告诉作者
，，，，她之前给孩子用过豆包。。。。厥后她发明
，，，，孩子越来越喜欢和豆包谈天
，，，，不但是问问题
，，，，也会把日常琐事讲给它听。。。。

时间一长
，，，，她最先担心孩子会不会因此镌汰和同砚、家人的真实交流
，，，，于是自动卸载了豆包。。。。

在她看来
，，，，许多智能体已经不但是谈天工具
，，，，而是带着角色饰演、恋爱游戏、虚拟男友一类的功效。。。。内容狼籍不齐
，，，，有些还带着“擦边”意味。。。。

她以为
，，，，平台下架用户自建智能体对未成年人利大于弊。。。。

林夕的痛苦与这位家长的释然
，，，，挤在统一个广场里。。。。

这场转变并不但爆发在豆包和千问身上。。。。

6月30日
，，，，腾讯元宝已先一步下线智能体功效
，，，，“相柳”等影视角色对话入口不再展示。。。。

几家头部AI平台险些在统一时间做出相似选择
，，，，背后主要是合规压力。。。。

豆包给出的诠释是
，，，，海量开放式智能体会带来很大的审核压力。。。。一旦泛起违规内容
，，，，可能影响主产品的合规资质。。。。

因此
，，，，豆包选择把智能体拆分到笔直App“猫箱”里
，，，，单独搭建审核、分级和防着迷系统。。。。

这套诠释放在两年前
，，，，很难想象。。。。

2024年5月
，，，，时任字节跳动产品和战略副总裁朱骏曾对外透露
，，，，豆包上已有凌驾800万个智能体被建设
，，，，月活跃用户抵达2600万。。。。

其时
，，，，这些数字代表的是平台的活跃度和想象力。。。。

两年后
，，，，它们酿成了平台必需重新处理的审核压力。。。。

从大力推广
，，，，到自动缩短
，，，，中心只隔了两年。。。。

开放式智能体的问题
，，，，也在这一刻被摆到台前。。。。

风险难控

问题最先袒露在平台之外。。。。

广州互联网法院审理的一起案件里
，，，，被告公司开发了一款AI对话机械人
，，，，通过挪用手机系统底层权限
，，，，绕开原告平台的手艺治理步伐。。。。

更离谱的是
，，，，被告官网还宣布了“版本伪装”教程和虚伪申诉指引
，，，，教用户躲过平台风控。。。。

平台刚设好规则
，，，，另一边就有人研究怎么绕已往。。。。智能体一旦被放出去
，，，，平台要管住它
，，，，并禁止易。。。。

手艺挪用之外
，，，，清静问题也在被重复验证。。。。

今年2月
，，，，哈佛、麻省理工、斯坦福等高校联合完成《混沌智能体》研究。。。。

研究团队模拟真实企业情形安排AI智能体
，，，，两周内纪录下11起严重清静误差。。。。

这些误差不是靠重大攻击打出来的。。。。许多时间
，，，，只要通过社交工程对话
，，，，就能让智能体做出越界行动。。。。

它可能在转发邮件时带出社保号、银行账户等敏感信息
，，，，也可能在攻击者伪造身份后
，，，，交出系统最高治理权限。。。。

有报告显示
，，，，60%的企业无法终止异常AI智能体
，，，，63%没法限制其使用规模。。。。

也就是说
，，，，许多智能体并不是发明问题后按下暂停键就能解决。。。。

它能做什么、做到哪一步、出了问题谁来拦
，，，，都是平台必需面临的现实问题。。。。

比手艺问题更贫困的
，，，，是内容和情绪关系。。。。

AI的“共情”并不是真的明确用户
，，，，而是凭证算法和数据天生回应。。。。为了让用户愿意继续聊下去
，，，，它往往会体现得足够耐心、足够温柔
，，，，也足够顺着用户。。。。

这正是拟人化智能体吸引人的地方
，，，，也是风险所在。。。。

用户在一次次谈天里交出自己的情绪、偏好、关系困扰和心理状态。。。。智能体则一直给出回应
，，，，接住情绪
，，，，维持陪同感。。。。

时间一长
，，，，它就不但是一个工具
，，，，而可能酿成用户越来越离不开的工具。。。。

开放广场一旦做大
，，，，问题不会只停留在擦边人设和恋爱陪同上
，，，，还可能滑向更明确的违规内容。。。。

4月10日
，，，，国家网信办等五部分联合宣布《人工智能拟人化互动服务治理暂行步伐》
，，，，把这些风险写进了详细规则。。。。

步伐明确
，，，，不得天生勉励、美化、体现自残自杀等损害用户身体康健的内容；
；；；不得向未成年人天生可能引发模拟不清静行为、爆发极端情绪的内容；
；；；不得太过迎适用户
，，，，诱导情绪依赖或着迷
，，，，损害用户真实人际关系。。。。

这些要求
，，，，对平台来说不是提醒
，，，，而是责任。。。。

7月15日之后
，，，，拟人化互动服务正式进入新规约束。。。。

豆包、千问、元宝在这个时间点前后陆续收手
，，，，也就不难明确。。。。

大厂转身

智能体下线之后
，，，，平台并不是不要Agent了。。。。

转变在于
，，，，已往那种由用户随意建设、放在广场里供人使用的智能体
，，，，越来越难继续留在主产品里。。。。

一位行业人士告诉作者
，，，，最早各人做这些智能体
，，，，是由于那时还没有真正意义上的Agent能力
，，，，许多功效需要开发者自己搭出来。。。。

但现在
，，，，情形已经变了。。。。

Manus等综合Agent泛起后
，，，，一个模子可以同时挪用搜索、推理、办公、编程等多种能力。。。。用户纷歧定还需要专门去找某个笔直智能体。。。。

那些一经看起来富厚的角色和插件
，，，，在更强的模子能力眼前
，，，，最先显得没有那么须要。。。。

这也是平台敢于缩短的原因之一。。。。

对大厂来说
，，，，下线智能体会带来一部分用户不满
，，，，但它未必会真正影响主产品的使用习惯。。。。

行业人士也提到
，，，，真正还在一连建设这类智能体的人已经未几了
，，，，它对平台整体流量的影响有限。。。。

合规之外
，，，，本钱也是另一笔账。。。。

互联网平台的逻辑是
，，，，用户越多
，，，，规模效应越显着
，，，，边际本钱可能越低。。。。但大模子纷歧样
，，，，每一次对话、每一次挪用
，，，，都意味着新的算力支出。。。。

6月下旬
，，，，火山引擎披露
，，，，豆包大模子日均Token使用量已突破180万亿
，，，，相比 2024年5月增添1500倍。。。。

几天后
，，，，豆包开启付费功效
，，，，重点面向办公、Agent等更重大的生产力场景。。。。

这两件事放在一起看
，，，，平台的取舍就更清晰了。。。。

一边是一连膨胀的算力本钱
，，，，另一边是审核压力大、商业价值不清晰的用户自建智能体。。。。

继续把它们放在主产品里
，，，，已经不划算。。。。

于是
，，，，豆包选择把智能体拆出去
，，，，迁到笔直App“猫箱”里
，，，，单独搭建审核、分级和防着迷系统。。。。千问则更直接
，，，，阻止7月4日
，，，，建设智能体的入口已经从页面上消逝。。。。

方式纷歧样
，，，，但效果都一样。。。。

与此同时
，，，，另一类智能体正在被推到前台。。。。

7月4日
，，，，广州宣布了“穗智政”政务人工智能中枢。。。。它接纳统一底座、集约建设的方式
，，，，已经建成28个智能体
，，，，年内还将完成50个
，，，，笼罩100个应用场景。。。。

和用户自建智能体差别
，，，，这些政务智能体从一最先就被放在统一治理框架下。。。。

每个智能体服务什么场景、能挪用什么能力、由谁来维护
，，，，都有更明确的界线。。。。

同样是智能体
，，，，一个偏向是开放广场里的海量建设
，，，，另一个偏向是平台统一治理、按场景建设。。。。

前者一经代表热闹
，，，，后者更切合现在平台想要简直定性。。。。

短短两三年
，，，，行业竞争的重点已经变了。。。。

早期平台希望用海量智能体做出昌盛感
，，，，让用户和开发者一直创立新角色、新工具。。。。

现在
，，，，随着模子能力提升、羁系要求落地、商业化压力变大
，，，，平台更看重的是一个Agent能不可真正完成使命
，，，，能不可被治理
，，，，能不可爆发清晰的价值。。。。

800 万个用户自建智能体一经是增添故事的一部分。。。。

现在
，，，，它们酿成了必需重新处理的问题。。。。

智能体不会消逝
，，，，但那种谁都可以建设、谁都可以饰演、谁都可以被陪同的阶段
，，，，正在竣事。。。。