凯时AG

2026-07-21 06:54:57 设为首页 | 加入珍藏

打造AI网安“红队”:OpenAI先容内部误差检测模子GPT-Red

2026-07-21 06:54:57 宣布 泉源:码云下载 作者:许建佑 浏览:4139次

IT之家 7 月 16 日新闻,,OpenAI 外地时间 15 日先容了其内部使用的网络清静“红队”模子 GPT-Red 。。。该模子可自动化地举行种种网络攻击模拟,,资助 OpenAI 提升对外模子产品的鲁棒性 。。。

OpenAI 体现,,其已往半年自 GPT-5.3 后的每个生产模子均将“红队”模子用于训练 。。。伪造头脑链型攻击的乐成率已从 GPT-5.1 上的 95% 降低至最新模子上的缺乏 10%;;;;;;最新的 GPT-5.6 Sol 在 GPT-Red 的直接提醒符注入攻击中失败率仅有 0.05% 。。。

GPT-Red 使用自博弈强化学习举行训练:其自己和一组差别的防御型 LLM 在普遍的红队场景上同时举行训练 。。。GPT-Red 因乐成诱发有用失败而获得奖励,,而防御型模子则因反抗攻击并完成其原始使命而获得奖励 。。。随着防御型模子变得越来越强盛,,GPT-Red 被迫发明更强盛、更多样化的攻击 。。。

“红队”模子与产品模子相隔离 。。。OpenAI 相信其已开启了良性的人工智能网络清静循环,,可使用现有模子来增强未来模子的鲁棒性、一致性、可信度 。。。

跨省运输活鸭“中暑” 消防水枪紧迫喷淋降温

责任编辑:林浩一    校对:林佩毓

今日热门

  1. 外籍友人体验龙舟竞速
  2. 大美边疆看我家丨北疆小城青冈:遇见“猛犸家乡”
  3. 共享出行怎可“过界”就断电
  4. 指尖上的追光者:“95后”女人让皮影在新疆焕发新活力
  5. A股开盘:超3700只个股飘绿,,三大指数整体低开
  6. 西江封开段水域超警戒水位 海事部分力保辖区平安度汛
  7. 赵乐际对俄罗斯举行正式友好会见并出席中俄议会相助委员会第十一次聚会
  8. 晚上睡前刷牙、刷牙后漱口竟是错的
  9. 群演兴起勇气向周星驰展示双节棍
  10. 互联网企业云端招聘月活动“线上+线下”同步开展 助力青年群体求职就业

相关推荐

【网站地图】