微软忠言称ClaudeCode保存误差,,,,,可能导致GitHub账号凭证泄露
IT之家 6 月 7 日新闻,,,,,微软研究职员发明,,,,,Anthropic 旗下 Claude Code 的 GitHub 自动化流程保存一处误差,,,,,该误差可能导致一连集成 / 一连安排(CI / CD)事情流中的神秘信息泄露,,,,,攻击者或可通过提醒词注入攻击窃取敏感凭证。。
微软威胁情报团队在监测到果真代码库中泛起针对人工智能辅助型 GitHub 事情流的提醒词注入实验后,,,,,启动了本次研究。。
据IT之家相识,,,,,提醒词注入是一类人工智能清静误差。。攻击者会在大模子处理的内容中嵌入误导性指令,,,,,以此操控模子行为。。大型语言模子的通例设计逻辑是遵照开发者指令、响应用户提问,,,,,而攻击者会想法诱骗模子,,,,,使其无视预设指令。。
研究职员举例说明,,,,,有攻击者将注入指令藏在 HTML 注释中。。这类内容在 GitHub 展示界面中不可见,,,,,但读取原始 Markdown 源码的人工智能模子却能识别。。涉事代码库其时借助 GitHub 自动化流程来自动处理工单问题。。
攻击者可将恶意指令伪装成通俗的功效需求,,,,,无需获得项目修改权限,,,,,仅需提交一条 GitHub 工单,,,,,就能诱骗人工智能机械人代为执行修改操作。。
微软证实,,,,,同类提醒词注入手段同样可针对 Anthropic 的 Claude Code GitHub 自动化流程提倡攻击。。此前 Anthropic 已为部分工具(例如可让 Claude 在系统中执行下令的 Bash 工具)设置了沙箱防护。。
但微软发明,,,,,Claude 用于读取文件的读取工具并未受到一律清静限制。。
研究职员制作了提醒词注入攻击载荷,,,,,对该误差举行验证测试。。测试中,,,,,恶意提醒词乐成绕过两层防护,,,,,诱导这款人工智能助手读取了存放着应用程序接口密钥及其他凭证的系统文件。。
微软于 4 月 29 日向 Anthropic 上报了该误差。。Anthropic 已于 5 月 5 日宣布 Claude Code 2.1.128 版本完成修复,,,,,通过限制程序对 /proc/ 目录下敏感文件的会见,,,,,防止相关信息被非法窃取。。
@林育廷:亚投官网,,,,,博主:这轮AI暴富潮太吓人@张韵如:“要坚持康健第一的教育理念”
@陈奕君:两种国家一级;;ざ锎蚱鹄戳
热门排行
- 1 支付宝如何竞猜世界杯
- 2 宝博体育中国
- 3 米乐6m
- 4 js金莎
- 5 乐鱼_官网
- 6 盛世国际体育手机端
- 7 足球篮球平台app官网
- 8 12博BET官方网站一尽在12悔
- 9 bet官方