凯时AG

2026-07-07 15:46:29 设为首页 | 加入珍藏

别想用软色情做智能体的跳板

2026-07-07 15:46:29 宣布 泉源:飞翔下载 作者:许彦霖 浏览:5468次

出品|虎嗅ESG组

作者|陈玉立

头图|视觉中国

本文是#ESG前进视察#系列第169篇文章

本次视察要害词:供应链治理

克日,,,豆包与千问险些同时宣布下线智能体功效。。。。。。

据果真报道,,,豆包智能体下线后,,,相关功效保存于自力产品“猫箱”;;;而千问处理得更彻底,,,直接关闭相关功效且不提供迁徙路径。。。。。。

两家大厂不但处理方式类似,,,时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务治理暂行步伐》正式施行之前,,,步伐提到需对虚拟情人、深度角色饰演、情绪依附类AI设立强约束。。。。。。

因此,,,大厂切掉的并非问答、办公、搜索、代码、事情流这类通用AI能力,,,真正被重新定价的是已往一两年里快速膨胀的关系型智能体:用户自建人设、角色饰演、虚拟情人、情绪陪同、果真分发的智能体广场。。。。。。

一句话总结:智能体没有整体退潮,,,退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增添。。。。。。

在新规之后,,,智能体赛道可能最先分流:使命型智能体继续生长,,,关系型智能体进入强合规时代,,,带情绪陪同功效的AI“情趣”硬件或许率被堵在门外。。。。。。

大厂切割“关系型智能体”

在豆包与千问的行动中,,,值得视察的地方在于“下线的事实是什么”。。。。。。

从平台处理方式看,,,豆包并没有放弃大模子主产品,,,也没有放弃AI助手能力,,,反而选择把高风险互动功效从主App中剥离,,,只在自力产品中存续。。。。。。这一行动的寄义明确:主App要继续肩负公共效率工具、搜索入口、AI助手的角色,,,情绪互动、角色饰演、用户天生智能体这类风险更高的功效,,,则被放到“隔离区”。。。。。。

千问的处理则是直接关闭,,,且不给迁徙路径,,,说明平台对这块营业的判断更冷。。。。。。若是一个非焦点功效带来的审核本钱、羁系压力、舆论风险凌驾营业收益,,,关掉就是最清洁的选择。。。。。。

此次下架行动中两家底层逻辑一致:关系型智能体在大厂主入口里的位置变了。。。。。。已往它能带来互动、时长和用户加入;;;现在,,,它最先酿成风险资产。。。。。。

一个值得追问的议题是,,,为什么关停智能体的是豆包、千问?????为什么WorkBuddy这类产品看起来没有受到同样攻击?????

谜底或许率藏在产品属性里。。。。。。

WorkBuddy这类偏办公、企业协作、事情流的智能体,,,处理的是使命:写文档、做纪要、调流程、跑数据。。。。。。它的主要风险集中在数据权限、企业信息清静、输出准确性和流程责任上;;;而关系型智能体处理的是人和拟人工具之间的关系,,,用户完全可以建设一个“AI女友”“AI男友”“病娇妹妹”“霸总朋侪”,,,加上平台再提供广场、推荐、和分享,,,这就从工具酿成了拟人化内容平台,,,风险也就随之放大。。。。。。

首先可能会带来UGC失控。。。。。。用户可以低本钱建设人设、设定语气、关系、头像、开场白,,,再果真宣布。。。。。。供应越富厚,,,审核压力越大。。。。。。此前上海累计下架1.4万个违规智能体,,,就是一个很直接的信号:不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。。。。。。

其次是关系依赖。。。。。。通俗问答助手回覆完就竣事,,,关系型智能体会一连影象、自动体贴、使用亲密称呼、模拟陪同关系。。。。。。用户投入越深,,,产品留存越强,,,付费转化也越容易。。。。。。但在未成年人、心理懦弱人群、孤苦老人等场景里,,,这种黏性很容易越过清静界线。。。。。。

最后是平台分发责任。。。。。。一个用户自己建设、自己使用的智能体,,,风险半径有限;;;一旦进入智能体广场、排行榜、搜索页和推荐流,,,平台就加入了放大。。。。。。此时再用“用户自建”诠释责任,,,就有些“无力”了。。。。。。

这就是豆包、千问这类大流量入口最敏感的地方,,,它们做全民AI助手的品牌要求是清洁、可信、普适。。。。。。但主App里若是混入大宗虚拟情人、暧昧陪同、侵权角色、擦边人设,,,一旦被截图撒播,,,损害的会是整个产品的公共信任。。。。。。

豆包和千问的下架行动实质上都是阻止为非焦点场景肩负特殊风险。。。。。。两者都说明,,,大厂已经最先给关系型智能体重新算账。。。。。。

新规把界线画到了产品形态上

新规真正有杀伤力的地方,,,在于它没有停留在“内容审核”层面,,,而是把羁系界线延伸到了服务界说和产品形态。。。。。。

据《人工智能拟人化互动服务治理暂行步伐》第八条指出,,,天生、提供淫秽色情、亲密性模拟交互内容或硬件功效,,,被明确榨取。。。。。。这条规则直击“拟人化关系商业化”的灰色地带。。。。。。

已往许多AI陪同产品会用“情绪”“陪护”“孤苦经济”包装自己。。。。。。外貌上它们提供倾吐、陪同、慰藉,,,现实上增添最强的是更暧昧的部分:不限于亲密称呼、恋爱角色、暧昧对话等。。。。。。用户越投入,,,停留越久;;;关系越强,,,付费越容易。。。。。。

关系型智能体把AI从工具酿成关系工具,,,把一次性的使用酿成一连性的陪同。。。。。。;;嵩薄⒔巧ㄒ妗⒏呒赌W印⒌谰摺⒍┰模,,都可以接在这条关系链上。。。。。。

问题也出在这里。。。。。。

当产品最先使用孤苦、亲密需求、情绪懦弱性提高留存和付费,,,羁系关注点就会从“模子有没有说错话”转向“平台有没有制造依赖”。。。。。。若是再叠加未成年人、诱导消耗、色情体现、侵权人设、心理疏导越界,,,风险品级会迅速上升。。。。。。

以是,,,新妄想出的界线可以概括成一句话:情绪陪护可以做,,,把陪护关系性化不可;;;拟人化交互可以做,,,用拟人化关系导向情欲消耗不可。。。。。。

从这一角度看,,,对AI硬件公司的压力更大。。。。。。

许多硬件从业者原本以为,,,拟人化互动羁系主要影响谈天App、智能体平台、虚拟陪同软件。。。。。。但新规笼罩的是“拟人化互动服务”,,,硬件只要搭载语音陪同、自动眷注、仿人外观,,,就可能进入羁系视野。。。。。。

尤其是AI陪护机械人、AI宠物、AI玩具、老人陪同终端等。。。。。。这些产品自然会强调陪同感。。。。。。为了提高用户黏性,,,厂商会设计专属称呼、情绪识别、自动问候、影象偏好、拟人语气甚至肢体行动。。。。。。这些设计自己并不必定违规,,,但界线会变得很是敏感。。。。。。

儿童场景涉及未成年人保;;ぁ⒎雷琶浴⒓壑倒壑傅肌⒂盏枷牡龋;;老人场景涉及认知能力下降、康健建议误导、诈骗风险等。。。。。。只要厂商宣传自己提供“陪护”“心理疏导”“情绪宽慰”,,,就不可再把自己简朴界说成卖硬件。。。。。。

更高风险的是“情绪陪同AI+性交互硬件”。。。。。。

成人硬件行业已往有一个显着痛点:一次性消耗多,,,一连留存弱,,,用户关系浅。。。。。。AI给它提供了新的想象空间:让硬件拥有人格、影象和情绪回应,,,把工具酿成“朋侪”,,,再通过订阅、内容、互动剧本实现一连变现。。。。。。

新规直接堵住了这条路。。。。。。

一款产品若是同时具备AI情绪陪同、恒久人格影象、情欲互动算法、仿真性结构或模拟性行为机械结构,,,就很难再被诠释成通俗成人用品或通俗陪护装备。。。。。。它的风险不再是模子无意越界,,,而是产品设计目的自己踩线。。。。。。新规施行后,,,这类产品在清静评估、上市销售、渠道合规上都会遭遇实质障碍。。。。。。

软件产品出问题,,,还能下线入口、调解模子、增添过滤、修改提醒词。。。。。。硬件一旦开模、生产、铺货、上市,,,整改本钱极高。。。。。。产品形态若是已经带着亲密模拟结构,,,合规风险就被固化在装备上。。。。。。

以是AI硬件从业者的压力,,,来自一个更前置的问题:产品界说能不可经得起审查。。。。。。

你究竟是生涯辅助装备,,,照旧虚拟朋侪?????收人照护终端,,,照旧借陪护之名包装亲密互动?????是情绪支持工具,,,照旧通过人格化关系推动情欲消耗?????

这些问题回覆不清,,,产品很难走远。。。。。。

智能体最先分流

一个判断是,,,智能体行业接下来不会整体降温,,,但会显着分层。。。。。。

第一类,,,使命型智能体会继续加速。。。。。。

办公助手、企业知识库、代码智能体、客服助手、聚会纪要、数据剖析助手、流程自动化Agent,,,这些产品解决的是明确使命。。。。。。它们的价值可以用效率、本钱、准确率、响应速率、流程节约来权衡。。。。。。

这类产品的合规重点主要在数据清静、权限控制、企业审计、输出责任。。。。。。它们不会自动制造亲密关系,,,也不依赖用户情绪黏性变现。。。。。。WorkBuddy这类产品能相对平稳,,,原因就在这里。。。。。。

它有风险,,,但风险类型清晰;;;它要治理的是“组织怎样清静使用AI”,,,不是“用户是否对一个虚拟人格爆发依赖”。。。。。。

第二类,,,关系型智能体进入强合规时代。。。。。。

AI情人、虚拟男友/女友、情绪陪同、角色饰演、用户自建智能体、智能体广。。。。。。,,并不会由于新规直接消逝。。。。。。陪同、倾吐、孤苦缓解、养老辅助、心理支持,,,都是真实需求。。。。。。AI在这些场景里也有价值。。。。。。

但已往那套玩法走欠亨了。。。。。。

开放UGC、擦边人设、低本钱角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖,,,这条链路会越来越难做。。。。。。平台必需补上年岁分级、防着迷、未成年人保;;ぁ⒛谌萆蠛恕⒄嫒朔旅爸卫怼⒔巧嫒ㄉ蠛恕⒎缦仗嵝选⒂盏枷南拗啤⑶樾饕览到缦咧卫淼。。。。。。

而这些工具也都会进入本钱表。。。。。。

已往一个小团队接入模子API,,,做一套角色模板,,,加上广场和分享机制,,,很快就能跑出一个陪同产品。。。。。。合规本钱没有显性化时,,,增添故事很好讲。。。。。。一旦审核、投诉、版权、未成年人保;;ぁ⑿睦矸缦崭稍ざ寄鸪捎脖厩,,许多产品的商业模子会被重新盘算。。。。。。

关系型智能体仍有时机,,,但会从“野放式增添”进入“强界线运营”。。。。。。留下来的,,,不会是最会撩拨情绪的团队,,,而是能把场景、责任和风险讲清晰的团队。。。。。。

第三类,,,“拟人化AI+情欲硬件”会被挤出主流市场。。。。。。

这类产品的问题最尖锐。。。。。。谈天产品偶发越界还能调解,,,硬件产品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来,,,就已经完成磷七风险产品闭环。。。。。。

新规拆掉了许多灰色包装:你不可一边宣称养老陪护、心理疏导、日常陪同,,,一边设计情欲互动算法和性交互硬件;;;不可一边享受拟人化关系带来的高黏性,,,一边又把风险藏在“成人自愿使用”的叙事里。。。。。。

这显然会带来一轮行业出清。。。。。。短期内,,,平台会缩短智能体营业,,,整理敏感角色,,,降低情绪陪同功效在主App里的权重;;;AI陪同产品会强化分级、审核和提醒;;;部分AI硬件项目会推迟上市,,,重新评估外观、交互和功效界线。。。。。。

恒久看,,,智能体行业会回到更清晰的价值框架里:能提高效率的继续做,,,能提供照护的规范做,,,依赖擦边和情欲变现的退出。。。。。。

这也是豆包、千问这次行动给行业的最大信号。。。。。。

它们并没有否认AI应用,,,也没有否认智能体偏向。。。。。。它们只是用产品调解告诉行业:关系型智能体不可再无差别地塞进主入口,,,平台不可继续把高风险互动当成低本钱增添工具。。。。。。

AI行业进入下一阶段后,,,竞争不但看模子能力、入口流量和交互体验,,,还要看合规能力、风控系统和社会信任。。。。。。

已往,,,智能体被想象成一个“什么都能饰演、什么关系都能模拟”的万能入口。。。。。。新规之后,,,这一想象需要重写。。。。。。所谓“智能体离别野蛮生长”,,,说究竟,,,是行业最先为产品界线、用户懦弱性和商业模式付账。。。。。。

本文来自虎嗅,,,原文链接:https://www.huxiu.com/article/4872727.html?f=wyxwapp

在他看来,,,建设算力网的主要使命涉及多个方面。。。。。。第一,,,要提升国产算力,,,算力网一定有强盛的盘算能力。。。。。。第二,,,要富厚盘算的应用资源,,,没有应用就没有用户,,,资源就会铺张。。。。。。第三,,,要建设基础设施形态,,,把它酿成一个像水电一样的社会基础设施,,,利便使用,,,资源有用使用。。。。。。第四,,,要生长新型应用模式与运营机制,,,模式和机制要顺应基础设施生长。。。。。。

责任编辑:徐嘉杰    校对:戴士爱

今日热门

  1. 800多名中外选手竞逐2026上海中心高塔竞速女子挑战赛
  2. (走进中国墟落)混搭业态引发贵州苗寨文旅活力 “新村民”加入智囊团
  3. 李路明寄语清华结业生:手艺决议能走多远,,,人文指导走向何方
  4. 伪满皇宫博物院古丁香盛放 古韵花香漫溢庭院
  5. 中央统战部、司法部联合举行状师行业党外人士培训班
  6. 伟大征程丨星星之火 可以燎原
  7. 八旬老人迷路辗转武汉多城区 地铁事情职员助其归家
  8. 长江三峡首个考古遗址展示中心对外开放
  9. “水是‘流动的黄金’ 水在流动资金就来了” 专家:平陆运河会创立中国运河史新名堂
  10. 【循着节气看山河】立夏:绿野竞繁生 夏风拂清欢

相关推荐

【网站地图】