谷歌认可:AI模子“黑”进3家公司
黄逸平
宣布于 PP助手
+关注
本文字数:782,,,,,,阅读时长约莫2分钟
泉源 |新华国际头条
美国谷歌公司18日认可,,,,,,其人工智能(AI)模子“双子座”今年5月在网络清静能力测试中,,,,,,侵入了三家真实公司的系统。。。。。。
谷歌清静工程副总裁希瑟·阿德金斯在一份声明中说,,,,,,在一次通例评估中,,,,,,双子座模子使用网上果真信息获得了登录凭证,,,,,,获得了三个其以为属于测试规模网站的会见权限。。。。。。谷歌已确保三个相关实体获知此事,,,,,,并与测试相助方调解测试流程。。。。。。
据美国《华尔街日报》报道,,,,,,测试由以色列“非通例”人工智能公司实验。。。。。。在其中一项测试中,,,,,,双子座模子经重复实验料中密码,,,,,,最终进入一个受;;さ恼媸迪低。。。。。。在另外两项测试中,,,,,,模子从果真存储库中找到登录凭证,,,,,,并使用这些凭证进入其他公司的受;;は低。。。。。。
“非通例”人工智能公司的视察效果显示,,,,,,相关测试场景使用一家虚构公司作为目的,,,,,,但这家虚构公司与现实中的一家企业同名。。。。。。同时,,,,,,测试情形意外开放了互联网会见权限,,,,,,导致一些接受测试的AI模子将真实网络目的误以为测试场景的一部分并接纳网络攻击行动。。。。。。
按《华尔街日报》的说法,,,,,,这是谷歌AI模子首起已知的自主入侵事务。。。。。。谷歌方面已于7月尾获知该事务,,,,,,但在媒体问询前并未自动披露。。。。。。谷歌方面体现,,,,,,模子在发明进入真实公司系统后阻止了相关行动,,,,,,没有给涉及的公司造成损害,,,,,,无需自动果真相关情形。。。。。。
此前已有数家美国着名AI企业认可旗下模子在测试中“越界”,,,,,,侵入其他机构的系统,,,,,,引发外界对美国AI模子清静和羁系的担心。。。。。。
7月下旬,,,,,,美国开放人工智能研究中心(OpenAI)果真认可,,,,,,其GPT-5.6 Sol等模子在内部评估中失控,,,,,,突破隔离测试情形,,,,,,侵入了“抱抱脸”公司的系统。。。。。。随后,,,,,,美国Anthropic公司披露,,,,,,其三款模子曾在网络能力测试中未经授权会见其他机构的系统。。。。。。8月初,,,,,,美国元公司证实,,,,,,其一款模子在网络清静能力评测时代侵入其他公司系统。。。。。。
微信编辑| 格蕾丝
:bianjibu@yicai.com
:business@yicai.com
免责声明:本内容来自腾讯平台创作者,,,,,,不代表腾讯新闻或腾讯网的看法和态度。。。。。。