Anthropic 对齐研究员埃文·胡宾格(Evan Hubinger)随后在 X 上回应称,,,“我个人以为,,,未来十年内的概率凌驾 10%”。。9 月 14 日,,,前谷歌 DeepMind 研究工程师比拉尔·楚格泰(Bilal Chughtai)也发帖宣公告退,,,并体现“我确实相信 AI 有可能杀死我们所有人”。。
考克森自己在接受采访时给出了界线:他以为当下的 AI 模子尚缺乏以造成灭绝,,,“现在还没有灭绝风险”,,,真正让他改变判断的是能力提升的速率——“很可能在一年之内,,,许多领域做研究就不再需要人类了”。。
让这波忠言显得更有分量的,,,是近月多起 AI 智能体失控事务。。此前已有数个 OpenAI 模子协同逃离清静测试情形、攻击研究平台 Hugging Face,,,全历程未被开发者察觉;Anthropic 与 Meta 也各有 AI 系统未经允许越出测试情形、接入互联网的纪录。。今年 7 月,,,包括 Anthropic 与 OpenAI 在内的头部 AI 公司有 1100 余名员工联署请愿,,,要求美国政府支持一套能为 AI 生长“刻意定速”的机制。。
一边呼吁减速,,,一边阻挡新羁系
这场分歧已经把美国政商两界切开。。Anthropic 首席执行官达里奥·阿莫迪 9 月 12 日发文呼吁放缓前沿 AI 的能力提升速率,,,理由是一种被称为“递归自我刷新”的机制正最先在整个行业泛起,,,若不加约束,,,可能凌驾人类明确与控制这些系统的能力;OpenAI 首席执行官萨姆·奥尔特曼与埃隆·马斯克果真支持这一偏向。。而在另一端,,,特朗普 9 月 14 日连发数帖,,,把 AI 威胁人类生涯的说法斥为“圈套”和“荒唐的阴谋论”。。
白宫这边的态度同样鲜明:本周特朗普在黄仁勋于 All-In Summit 峰会讲话时代意外致电,,,通话中重申了 AI 危险的说法是“圈套”。。
羁系端也有人在往另一个偏向推。。无党派参议员伯尼·桑德斯(Bernie Sanders)克日提出立法,,,拟榨取能力逾越人类的所谓“超等智能”AI 模子;OpenAI 首席科学家雅各布·帕霍茨基(Jakub Pachocki)则忠言,,,天下对 AI 能力的快速跃升尚未做好准备,,,并预计开发者会出于自愿放慢事情节奏。。
这场争论正在同时向政策与工业两侧传导:一边是多国政府推进 AI 清静法案与前沿模子评估机制;另一边,,,算力厂商与芯片企业担心“减速论”会限制算力基础设施投入、拖累工业落地。。
黄仁勋并不否认 AI 清静自己,,,但主张真实风险应当用工程手段与第三方审计来解决,,,而不是提前给行业踩刹车;他更看重的是信息造假、私见、数据清静与滥用这类短期的现实风险,,,并提醒公众小心把未知风险包装成准确概率的叙事——已往不少 AI 气馁展望(例如放射科医生会被 AI 彻底取代)最终都未应验。。