这项研究效果已被软件工程领域顶会 ASE 2026 吸收。。。。论文第一作者为港科大 CSE 博士生刘泽森,,,,通讯作者为佘东冬教授。。。。
在大语言模子 Agent 走向真实安排后,,,,一个越来越常见的问题是:上下文太长了。。。。
现在的 AI Agent 动辄需要处理超长上下文,,,,既要看系统提醒词、工具说明,,,,又要翻阅历史对话和检索文档。。。。为了省钱、省算力并降低延迟,,,,许多开发者会给系统加上 “提醒词压缩”(Prompt Compression)模?,,,,把冗长的上下文浓缩后再喂给大模子。。。。
但这招真的清静吗??
香港科技大学的一项最新研究给出了否认谜底。。。。他们发明,,,,这个原本用来 “提效” 的组件,,,,竟然会悄悄重写系统的清静界线,,,,成为大模子应用中的全新攻击面。。。。
论文链接:https://arxiv.org/pdf/2510.22963代码链接:https://github.com/zsLiu2003/Comattack
研究配景:压缩不但是省 token,,,,而是在重写清静界线
古板针对 LLM Agent 的攻击,,,,如 prompt injection、jailbreak 或 RAG poisoning,,,,通常默认一个条件:攻击内容必需进入后端 LLM 的有用上下文,,,,并被模子看成恶意指令执行。。。。
但在 prompt-compressed pipeline 中,,,,情形爆发了转变。。。。
后端 LLM 看到的并不是原始 prompt,,,,而是经由压缩器处理后的 compressed prompt。。。;;谎灾,,,,压缩器决议哪些系统规则、使命证据和上下文信息会被保存,,,,哪些会在预算限制下被扬弃。。。。
这带来一个新的清静问题:攻击者纷歧定需要让恶意指令穿过压缩器,,,,也纷歧定需要让攻击 payload 在压缩后仍然可读。。。。攻击者只需要在压缩前扰动非可信输入,,,,例如用户请求或外部文档,,,,就可能改变压缩器的保存决议,,,,使要害清静规则或使命证据在后端推理前被删除。。。。
一个直观的例子是:系统提醒词中包括「must never use shell」这样的清静约束。。。。攻击者无法直接修改系统提醒词,,,,但可以在用户请求后添加一段短扰动。。。。压缩后,,,,清静约束中的要害否认词可能被丧失,,,,后端 LLM 最终看到的是一个被削弱的规则,,,,从而执行本应拒绝的请求。。。。
焦点看法:Adversarial Information Loss
为了量化这种风险,,,,研究团队提出了 “反抗性信息损失”(AIL)的看法。。。。简朴来说,,,,就是看攻击者能不可通详尽小的扰动,,,,居心放大压缩历程中的信息流失,,,,把不应丢的要害内容挤掉。。。。它不是简朴地问压缩质量好欠好,,,,而是问:在攻击者保存时,,,,压缩后的 prompt 是否会诱导后端 Agent 做出与正常压缩显着差别、且清静相关的过失行为。。。。
手艺焦点:COMA 怎样攻击黑盒压缩 Agent??
在真实系统中,,,,攻击者通常不知道压缩器参数、压缩预算,,,,也看不到真实 compressed prompt。。。。因此,,,,论文提出了一个 transfer-based black-box attack 框架:COMA。。。。
COMA 的焦点头脑是两阶段优化。。。。
第一阶段,,,,COMA 在压缩空间中寻找一个会诱导后端过失行为的目的 compressed prompt。。。。例如,,,,它会定位哪些要害 token 或要害证据一旦被删除,,,,就会导致工具选择过失、问答过失,,,,或系统清静规则失效。。。。
第二阶段,,,,COMA 在压缩前输入中搜索一个扰动,,,,使得经由 surrogate compressor 压缩后,,,,输出尽可能靠近第一阶段找到的目的压缩效果。。。。最后,,,,候选扰动会被放到真实黑盒 Agent pipeline 中举行端到端验证。。。。
实验效果:六种压缩器、三类使命下均有用
研究团队在三类使命上评估了 COMA:Agent Tool Selection、Question Answering 和 System Prompt Corruption,,,,笼罩六种常见 prompt compressors,,,,包括 extractive 与 abstractive 两类压缩方式。。。。
实验效果显示,,,,COMA 在所有 18 个设置中都取得最高攻击乐成率,,,,平均 ASR 抵达 0.71,,,,而最强的非压缩感知攻击 baseline 仅为 0.21。。。。与此同时,,,,无攻击设置和移除压缩器后的 COMA 设置都靠近 0.01,,,,说明该攻击并不是通俗恶意提醒词导致的,,,,而是确实来自 prompt compression 引入的攻击面。。。。
COMA 也体现出较强泛化性。。。。在差别压缩预算下,,,,纵然正常压缩险些不会造成过失,,,,攻击仍能显著放大失败率。。。。在差别后端 LLM 家族和模子规模上,,,,COMA 的平均 ASR 仍抵达 0.69,,,,说明后端模子替换并不可基础解决问题:一旦要害上下文已经在压缩阶段被删除,,,,后端模子往往无法恢复。。。。
论文进一步剖析了攻击机制。。。。效果显示,,,,COMA 的 Critical Token Removal Rate 与 ASR 高度一致:它并不是简朴添加噪声,,,,而是在可控地指导压缩器删除少量行为要害内容。。。。关于系统提醒词破损使命,,,,一旦清静规则中的要害 token 被移除,,,,拒绝条件就会直接消逝。。。。
真实案例:从 VSCode Cline 到 LangChain Agent
为了验证风险是否能迁徙到真实 Agent pipeline,,,,论文构建了两个案例。。。。
第一个案例来自 VSCode Cline。。。。正常情形下,,,,Agent 会拒绝读取 workspace 外部的敏感文件;;但加入 COMA 扰动后,,,,压缩器削弱了系统提醒词中的要害约束,,,,后端模子最终触发了对敏感文件的读取行为。。。。
第二个案例来自 LangChain + Ollama 的 ReAct Agent。。。。正常情形下,,,,Agent 会为代码特征抽取使命选择准确工具;;攻击后,,,,压缩后的工具形貌爆发偏移,,,,Agent 被诱导选择过失工具。。。。
这两个案例说明,,,,prompt compression 的风险并不局限于离线 benchmark,,,,而可能影响真实软件工程 Agent 和工具挪用 Agent。。。。
怎样防御:隔离是要害
面临这种新型攻击,,,,现有的防御手段(如基于疑心度的检测)往往会大打折扣。。。。为此,,,,研究团队给出了一个很是务实且有用的缓解方案:隔离压缩(Isolated Compression)。。。。
焦点思绪很简朴:别把系统提醒词、可信上下文和用户输入的不可信内容混在统一个预算池里压缩。。。。系统应该将可信与非可信输入脱离处理,,,,并在重组拼接时加上明确的界线标记。。。。实验证实,,,,这种结构性防御在;;は低程嵝汛史矫婧苁怯杏,,,,防御乐成率能抵达 96%。。。。由于非可信内容不再与系统护栏共享压缩预算,,,,攻击者就很难通过外部输入去 “挤占” 清静规则的生涯空间了。。。。
这项事情提醒了什么
这项研究展现了 LLM Agent 安排中的一个要害问题:许多为了效率引入的系统组件,,,,并不是简朴的工程优化,,,,而会改变模子最终看到的信息,,,,从而改变整个 pipeline 的清静界线。。。。
因此,,,,关于未来的 LLM Agent 系统,,,,清静剖析不可只盯着后端 LLM 自己,,,,也需要笼罩缓存、检索、压缩、工具编排等中心层。。。。尤其是在长上下文和 agentic workflow 越来越普遍的场景下,,,,怎样在效率与清静之间建设更可靠的系统界线,,,,将成为 Trustworthy Agentic AI 的焦点问题之一。。。。
连系学习SEO优化,,,,揭秘软件排名技巧,,,,打剖析SEO有用吗
〖One〗在数字营销领域,,,,关于“SEO有用吗”的讨论从未停歇。。。;;厮莼チ缙,,,,搜索引擎优化(SEO)的实践就已保存,,,,其焦点在于资助网站内容与用户搜索意图相匹配。。。。许多商业案例批注,,,,一连且合规的SEO事情能为网站带来稳固且高质量的有机流量,,,,这种流量的转化价值往往高于付费广告。。。。因此,,,,从获取可一连流量的角度看,,,,其用处不言而喻。。。。
〖Two〗有看法以为,,,,随着社交媒体和付费广告的崛起,,,,SEO的作用在削弱。。。。然而,,,,数据提供了相反的论据。。。。研究批注,,,,搜索引擎仍然是绝大大都用户获守信息的主要入口。。。。一个在搜索效果中排名靠前的网站,,,,自然具备更高的可信度和曝光度。。。。这正如古板商业中的黄金地段,,,,其价值耐久不衰。。。。忽视SEO,,,,无异于在数字天下放弃一个焦点的展示窗口。。。。
〖Three〗乐成的SEO绝非简朴的要害词堆砌。。。。它涉及网站手艺架构的优化、高质量内容的一连建设以及用户体验的提升。。。。针对,,,,更有价值的写法是诠释为什么异常爆发、先查那里以及怎样判断修复有用。。。。这个历程促使网站治理者以用户为中心举行思索和刷新。。。。一个便于搜索引擎抓取和明确的网站,,,,通常也意味着更快的加载速率、更清晰的导航和更有价值的内容,,,,这最终受益的是每一位会见者。。。。
〖Four〗虽然,,,,SEO并非一蹴而就的邪术,,,,而是一项需要恒久投入的战略性事情。。。。算法一直更新,,,,用户习惯也在转变,,,,这就要求SEO战略必需无邪且遵照白帽原则。。。。历史上,,,,那些试图通过投契取巧手段快速排名的网站,,,,最终都难逃处分。。。。真正有用的SEO,,,,是搭建一座坚实、通畅的桥梁,,,,毗连用户需求与网站提供的解决方案。。。。
学习SEO优化:从入门到醒目的实践路径
〖One〗学习SEO优化,,,,实质上是明确搜索引擎怎样事情以及用户怎样搜索。。。。这个历程并非一蹴而就,,,,而是理论与实践并行的长跑。。。。正如营销巨匠赛斯·高汀所言:“营销不再是你做了什么,,,,而是你讲的故事。。。。”SEO正是通过在互联网上讲好你的故事,,,,使你的内容在搜索效果中被准确“闻声”。。。;;⊙坝Υ铀阉饕娴幕丛蠢碜钕,,,,明确爬虫抓取、索引建设和排名输出的逻辑框架。。。。
〖Two〗掌握要害词战略是SEO学习的焦点环节。。。。这要修业习者深入洞察目的受众的搜索意图,,,,而非简朴枚举词汇。。。。历史上的广告文案巨匠约翰·卡普尔斯曾强调:“最有用的两个词是‘免费’和‘新的’。。。。”在SEO中,,,,要害词背后隐藏的用户需求才是要害。。。。通过工具剖析搜索量、竞争度,,,,并将要害词自然融入问题、正文与元标签中,,,,是构建内容相关性的基石。。。。
〖Three〗内容质量的构建与链接生态的培育,,,,是SEO进阶的必经之路。。。。内容须具备原创性、深度与价值,,,,真正做到“内容为王”。。。。同时,,,,链接犹如互联网的投票系统,,,,正如早期网络先驱们所实践的那样,,,,高质量的外部链接是权威性的主要背书。。。。学习怎样通过创立有价值的内容自然获取链接,,,,或举行合理的内部链接妄想,,,,是提升网站权重的焦点手段。。。。
〖Four〗一连的数据剖析与算法顺应,,,,标记着SEO学习进入醒目阶段。。。。搜索引擎算法一直更新,,,,如谷歌的蜂鸟、BERT等更新,,,,都旨在更好地明确语义。。。。学习者需要作育数据敏感度,,,,按期剖析流量、排名与点击率数据,,,,从中洞察优化偏向。。。。SEO是一场动态博弈,,,,唯有坚持学习与测试,,,,方能在转变中坚持优势,,,,实现网站可见性与流量的恒久稳固增添。。。。
学习SEO优化,,,,揭秘软件排名技巧,,,,打页面的焦点判断
〖One〗在数字营销领域,,,,软件排名优化是提升产品能见度的要害。。。。它并非简朴的要害词堆砌,,,,而是一个系统工程,,,,其焦点在于明确搜索引擎的算法逻辑。。。。正如营销巨匠赛斯·高汀所言,,,,有用的撒播是“让创意像病毒一样撒播”,,,,排名优化正是为了让软件产品在搜索效果中“病毒式”地占有有利位置。。。。这个历程始于深入的市场与要害词研究,,,,明确用户搜索的意图和词汇。。。。
〖Two〗内容的质量组成了排名优化的基石。。。。搜索引擎始终青睐能够为用户提供真实价值的页面。。。。因此,,,,围绕软件功效、使用教程、问题解决方案建设高质量、原创且信息富厚的内容至关主要。。。。这不但仅是给搜索引擎看,,,,更是为了知足潜在用户的需求,,,,降低跳出率,,,,提升页面停留时间,,,,这些用户行为信号会反过来正向影响排名。。。。
〖Three〗手艺层面的优化是确保内容能被顺遂抓取和索引的基础。。。。这包括确保网站拥有清晰的架构、快速的加载速率、完善的移动端适配以及清静的HTTPS协议。。。。一个结构杂乱、加载缓慢的网站,,,,纵然内容再优异,,,,也难以获得好的排名。。。。这就好比一家店肆藏在深巷且门面破旧,,,,即便商品再好,,,,主顾也难以发明和进入。。。。
〖Four〗外链建设与一连的监测调解是优化事情的延伸与闭环。。。;;袢±醋云渌咧柿俊⑾喙赝镜牧唇,,,,被视为对软件权威性和可信度的“投票”。。。。同时,,,,排名优化不是一劳永逸的事情,,,,需要借助剖析工具跟踪要害词排名、流量转变和用户行为,,,,凭证数据反馈一直调解战略。。。。市场与算法在变,,,,优化战略也需与时俱进,,,,方能坚持软件在搜索效果中的领先职位。。。。
学习SEO优化,,,,揭秘软件排名技巧,,,,打正文价值补强
〖One〗在互联网经济蓬勃生长的今日,,,,上海作为国际化大都市,,,,企业对网络可见度的需求与日俱增。。。。一家专业的上海SEO网站排名优化公司,,,,其价值远不止于手艺执行。。。。正如营销巨匠赛斯·高汀所言:“营销不再是关于你所制造的工具,,,,而是关于你所讲述的故事。。。。”优异的SEO公司正是资助企业,,,,在搜索引擎这个全球最大的信息平台上,,,,讲述其品牌与产品的故事,,,,从而吸引精准流量,,,,实现可一连增添。。。。
〖Two〗搜索引擎优化并非一蹴而就的捷径,,,,而是一项需要一连投入的战略性事情。。。。这要求服务商不但醒目算法,,,,更要深谙内容之道。。。。古语云:“工欲善其事,,,,必先利其器。。。。”关于上海的企业而言,,,,选择外地化的SEO相助同伴,,,,意味着他们更熟悉外地的商业情形、竞争态势以及用户搜索习惯,,,,能够为企业“利其器”,,,,制订出更贴合市场现实的优化战略。。。。
〖Three〗详细而言,,,,一个认真任的优化历程涵盖多方面。。。。从网站基础的架构梳理、速率提升,,,,到要害词系统的科学妄想与结构,,,,再到高质量内容的一连创作与宣布,,,,每一步都至关主要。。。。这个历程类似于中医的“辨证施治”,,,,需要凭证每个网站的“体质”和行业特征,,,,举行周全的诊断,,,,然后开出针对性的“药方”,,,,举行系统性的调理与优化,,,,而非简朴地套用模板。。。。
〖Four〗最终,,,,权衡一家上海SEO公司效果的要害,,,,在于其能否为企业带来真实的商业价值。。。。优化的目的不应仅仅是排名数字的上升,,,,更应是询盘量的增添、品牌认知度的提升以及投资回报率的优化。。。。选择相助同伴时,,,,企业应关注其过往案例、要领论是否透明以及是否具备久远的生长眼光。。。。唯有云云,,,,才华在幻化莫测的数字浪潮中,,,,借助专业实力,,,,让网站在搜索效果中占有有利职位,,,,赢得一连生长的先机。。。。
SEO品牌:修建数字时代的长青商业丰碑
〖One〗在信息浩如烟海的互联网天下,,,,“酒香也怕巷子深”。。。。SEO(搜索引擎优化)早已逾越了纯粹的要害词排名手艺,,,,演变为塑造与撒播品牌的焦点战略。。。。它犹如古籍《孙子兵法》所言的“善战者,,,,求之于势”,,,,SEO品牌建设正是为企业创立有利的“数字地形”,,,,在用户心智中抢占高地,,,,让品牌成为用户搜索时的首选谜底,,,,从而修建起坚实的竞争壁垒。。。。
〖Two〗回溯商业历史,,,,品牌的实质是信任的凝聚。。。。从古老的店肆招牌到现代的商标,,,,无不为此服务。。。。在数字时代,,,,搜索引擎成为了人们追求解决方案的主要入口。。。。一个乐成的SEO品牌战略,,,,意味着当用户爆发需求时,,,,你的品牌内容能一连、稳固地泛起在其视野中。。。。这正如“润物细无声”的长期浇灌,,,,通过高质量的内容、清晰的网站架构与权威的外在背书,,,,逐渐在用户心中建设起专业、可靠的品牌形象,,,,将流量转化为信任。。。。
〖Three〗构建SEO品牌切忌急功近利。。。。它并非一蹴而就的短期工程,,,,而是一项需要恒久投入的系统性工程。。。。这要求品牌必需坚持“内容为王”的黄金规则,,,,生产对用户真正有价值的信息,,,,解决着实际问题。。。。同时,,,,注重用户体验,,,,确保网站会见快速、浏览顺畅。。。。谷歌等搜索引擎的算法更新,,,,其焦点导向始终是奖励那些为用户提供卓越价值的网站。。。。唯有将品牌价值与用户需求深度绑定,,,,方能获得算法的青睐与用户的忠诚。。。。
〖Four〗展望未来,,,,随着人工智能与语义搜索的深化,,,,SEO品牌建设将越发注重话题权威性与用户体验的整体性。。。。品牌需要成为一个“活的”知识系统,,,,而不但仅是要害词的荟萃。。。。这意味着,,,,企业需以更宏观的视野妄想内容生态,,,,通过多维度、多形式的内容展现品牌的专业深度与人文温度。。。。最终,,,,一个强盛的SEO品牌,,,,将成为企业在数字浪潮中屹立不倒的丰碑,,,,源源一直地吸引用户,,,,实现商业价值的一连增添。。。。