泉源：张陆的母亲看返回舱开伞抿嘴擦泪作者： 蔡奕辰：

对话翁家良博士：人自己工智能才是价值终局

人工智能正以超预期的速率进化，，，，，“AI制造AI”已从科幻照进现实。。。。当Anthropic、谷歌等全球顶级实验室整体释放出敌手艺的深层焦虑，，，，，人类站在了手艺狂飙、商业利益与全球治理的十字路口。。。。

在这场不可逆的智能海啸中，，，，，企业和社会事实该怎样权衡手艺前进带来的盈利与清静问题？？

恒久处于AI前沿的资深学者、新加坡AIII人工智能国际研究院院长、WAIC天下人工智能大会国际照料翁家良博士加入著作的《人自己工智能》深度思索，，，，，试图解答这一关系人类前途的问题。。。。

近期，，，，，翁家良博士在和我们对话时体现，，，，，手艺、商业化与治理三大支柱必需动态并行，，，，，“人自己工智能”绝非一句公关口号，，，，，它是让企业和人类社会更稳、走得更远的商业底层逻辑。。。。

以下是我们和翁家良博士的对话。。。。

Q：翁博士您好，，，，，6月5日，，，，，Anthropic果真体现其工程师以为Claude的代码质量年内就将周全逾越人类，，，，，甚至不吝呼吁全行业在某种机制下“减速或暂停”以防失控。。。。作为恒久处于AI前沿的科学家和联合国专家，，，，，您怎么看这种由顶级实验室自动释放的“手艺焦虑”？？这是否意味着我们正处于您书中所说的“利润至上将AI引向邪路”的十字路口？？

A：Anthropic联合首创人Jack Clark最近也体现，，，，，他们发明大模子正在泛起出一些超乎预期的体现，，，，，这些情形所带来的重大效果与潜在风险，，，，，已经远非科学家或手艺专家所能自力肩负。。。。其中一点，，，，，就是AI制造AI。。。。

我在书里的第一章就谈到这个事了。。。。ChatGPT等大模子有一项优异的能力，，，，，就是自我学习和自我顺应，，，，，这使得它们显得越来越“有机”，，，，，它们能够随着时间的推移而自我学习和生长，，，，，无需明确的编程指令。。。。

人工智能的“有机”特征不但在于其自我学习能力，，，，，也延伸至其自我顺应能力。。。。自我顺应使得人工智能系统能够在动态情形中茁壮生长，，，，，类似于生物体在求生历程中的体现。。。。这种顺应性使人工智能系统能够在差别的情形中施展作用。。。。然而，，，，，它也可能导致一些情形，，，，，让用户感应惊讶、疑心甚至恐惧。。。。

科学家或工程师，，，，，也觉察这个事情有可能爆发，，，，，越来越多的人最先去提醒各人。。。。

Q：在《人自己工智能》的逻辑框架中，，，，，混淆人工智能是通往HASI（以人为中心的人工智能）的潜在路径，，，，，混淆人工智能偏向手艺实现手段，，，，，而人自己工智能则是价值终局。。。。请您诠释下这条生长蹊径？？

A：随着人机关系新纪元的开启，，，，，我们面临前所未有的挑战，，，，，需重新思索人类与AI之间的互动关系。。。。

在AI制造AI真正爆发前，，，，，科学家必需投入更多资源以应对可能爆发的风险。。。。我以为，，，，，混淆人工智能是我们通往人工智能终局的桥梁，，，，，要将人类的品德、知识等植入AI系统，，，，，将人类直觉中最精妙的部分与机械融合，，，，，让AI的行为变得可展望、可验证。。。。人类需要就此告竣共识，，，，，同时使用此共识开发新的AI架构。。。。它将是我们人类可控的一种工具。。。。

现在李飞飞和杨立昆都在开发天下模子，，，，，并希望这种能够明确物理天下纪律的模子更靠近真正的智能结构，，，，，但我以为这仍然不敷。。。。若是缺乏人类高阶逻辑介入，，，，，就无法突破“人本”与“清静对齐”的最终瓶颈。。。。

凯时AG目的是实现人自己工智能。。。。它不是一种纯粹的手艺升级，，，，，而是一套将手艺、治理、商业化有机连系，，，，，以“服务人类福祉、确保人类控制权、推感人机共生”为宗旨的手艺治理天下观。。。。

Q：您一直起劲提倡将“人自己工智能”作为联合国的第18个可一连生长目的，，，，，要让中美欧等差别经济体、差别利益诉求的企业告竣这一共识，，，，，现在希望怎样？？

A：已往几年，，，，，联合国一直在讨论建设一个专门的人工智能机构，，，，，但我以为，，，，，仅仅建设一个行政机构可能不是最高效的解法。。。。人工智能治理的要害不在于形式，，，，，而在于怎样真正落地。。。。我之以是提倡把它列为“第18个可一连生长目的”，，，，，是由于联合国此前推出的1至17个可一连生长目的是极其乐成的全球框架，，，，，获得了普遍支持与坚定推动。。。。

若是能将“人自己工智能”确立为新的全球标准，，，，，就能将这一共识辐射到全球80亿人，，，，，让各人配合来推动这件事。。。。虽然，，，，，最终它是否能被官方正式写成“第18个目的”并不是唯一的重点，，，，，真正的重点在于通过这个历程将“人本”的理念撒播出去。。。。

Q：《人自己工智能》一书中提到了令人担心的深刻AI风险（如深度伪造、黑产）。。。。从政策制订和组织治理的角度来看，，，，，我们怎样建设一套动态的“刹车机制”？？一旦AI的负面效应凌驾社会遭受力，，，，，治理结构该怎样举行硬着陆？？

A：所谓的“刹车机制”，，，，，归根结底取决于人类一体化的最终决断。。。。若是透视人工智能的生长，，，，，我们会发明它带来的盈利与风险是交织在一起的，，，，，且风险分为短期已现、中期迫近和恒久潜在三个维度。。。。

对此，，，，，我们必需回归一个最基本的共识：AI的生长浪潮是不可逆转的。。。。因此，，，，，凯时AG第一步是周全“接受”，，，，，并自动开启人机协同的历程。。。。在使用的历程中，，，，，我们要清晰地建设起“怎样准确使用AI”的社会规范。。。。

随着AI加速进化，，，，，我们不但要用它来明确物理天下，，，，，更要用它来反观人类自身、明确AI自己。。。。同时，，，，，我们要通过培育更优质的数据，，，，，来指导AI的良性演化。。。。

最终的挑战在于，，，，，正如人工智能先驱杰弗里·辛顿所担心的——硅基生物是否会不可逆地替换我们碳基生物？？针对这一最终命题，，，，，我们必需投入更多的资源去举行底层研究。。。。好比辛顿曾提到过“母爱”这种人类最基础的价值观，，，，，我们怎样通过算法研发将其导入到AI的底层逻辑中？？在不久的未来，，，，，当AI的智力周全逾越人类时，，，，，这种内嵌的“母爱”和人本价值观，，，，，或许才是人类社会最稳固的、底层的动态刹车机制。。。。

Q：关于一家详细的金融或科技企业，，，，，高管层往往面临业绩压力。。。。在组织治理上，，，，，怎样阻止将“认真任的AI治理”酿成PPT上的公关口号，，，，，而是落实到首席风险官（CRO）或产品线审核的硬性指标中？？

A：我们必需认可，，，，，企业的实质就是追求盈利与商业化的乐成，，，，，但在这个大条件下，，，，，企业高管必需算清一笔大账：在未来的竞争中，，，，，做不清静的人工智能，，，，，企业可能会“死得更快”。。。。

我们可以拿航空业做个类比。。。。若是一家航空公司制造或运营的飞机保存清静隐患，，，，，它基础不可能实现恒久盈利，，，，，一次事故就可能让它面临溺死之灾。。。。因此，，，，，行业要消除认知误区，，，，，以为“做治理、做清静就意味着不赚钱”。。。。

我们应该转过头来思索：怎样通过做对、做清静AI，，，，，来让企业更有竞争力、更赚钱？？有些产品可能由于打清静擦边球，，，，，在初期赚到了一些快钱，，，，，但从久远来看，，，，，这在商业上是绝对不可一连的。。。。

另一个商业解法在于，，，，，我们怎样通过卓越的产品设计，，，，，让“人自己工智能”变得比通俗人工智能更赚钱。。。。当你提供的AI由于更人性化、更具人文眷注，，，，，从而精准切中消耗者的深层需求时，，，，，用户对你品牌的忠诚度和付费意愿会更高。。。。这非？Ｄチ菲笠嫡贫嬲叩恼铰匝酃庥胂虻剂。。。。

中国儒家哲学讲“修身、齐家、治国、平天下”。。。。企业家若是想要在商业市场上开疆拓土、成绩伟大的事业，，，，，其底座依然是“修身”——也就是企业的价值观与底层操守。。。。只有把“人本”的修身逻辑嵌入企业的基因里，，，，，商业的基本才华稳固。。。。

Q：现在的人工智能企业和工程师动辄讨论AI何时在各项指标上周全“打平”或“逾越”人类。。。。您在书中提出的“人机共生智能”，，，，，在手艺架构上怎样确保AI永远是人类能力的放大器（Supertools），，，，，而不是人类的替换品？？

A：我们不应该仅仅从纯手艺的微观视角去寻找解法，，，，，而是必需站在一个更高的维度来看待这个问题。。。。

AI的生长绝对不是一个伶仃的手艺演进，，，，，它是由手艺、商业化、治理这三大支柱有机交织在一起的。。。。这三者必需坚持高频的“动态并行”。。。。随着手艺的一直进化和日益强盛，，，，，你的商业化手段需要去平衡手艺盈利对客户、对社会带来的深远影响；；；；；；与此同时，，，，，整个治理与风控系统也必需紧跟手艺的程序，，，，，举行实时的、迅速的动态调解。。。。

这是一个重大的挑战。。。。最近谷歌DeepMind的联合首创人也果真揭晓了类似的担心：目今的AI手艺正以非线性的速率狂飙，，，，，往往导致你刚制订出一项治理政策，，，，，还没比及它真正落地，，，，，底层的手艺范式就已经完全变了。。。。

因此，，，，，要确保AI成为人类的放大器而非替换品，，，，，要害不在于某一个特定的手艺架构，，，，，而在于这三大支柱能否形成一套“小步快跑”的协同机制。。。。只有让治理和商业化跑得和手艺一样快，，，，，我们才华把狂飙的手艺锁在“人机共生”的轨道里。。。。

Q：随着AI进入自动驾驶（L3/L4）和工业机械人等物理实体，，，，，手艺层面的清静容错率极低。。。。您对软硬件连系的手艺清静性有哪些前瞻性构想？？

A：自动驾驶等软硬件连系的物理实体，，，，，清静确实是“性命关天”。。。。我以为解决这一级别手艺清静性的焦点前瞻战略，，，，，在于“渐进式扩大安排规模”。。。。

在大模子或智能体刚走向物理天下时，，，，，由于未知界线太多，，，，，任何人都无法预判AI详细会在那里蜕化，，，，，甚至无法完善调校底层的伦理算法。。。。若是为了抢占市场而不认真任地强行周全安排，，，，，必定会导致无辜的公众受到危险，，，，，这是绝对过失的。。。。

我们可以参考航空工业的成熟履历。。。。飞机的清静不是一蹴而就的，，，，，而是在恒久的、高频次的使用历程中，，，，，一直发明误差、修补逻辑、沉淀标准，，，，，从而把容错率一直提高。。。。自动驾驶从L1一直演进到L4甚至L5，，，，，也必需履历这样一个动态演进的生命周期。。。。

因此，，，，，我的详细构想是：一方面通过区域性的“沙盒测试”逐步扩大安排，，，，，在可控规模内动态学习和纠错；；；；；；另一方面，，，，，我们要接纳“以AI管AI”的手艺架构。。。。在软硬件系统内部，，，，，用专门的“监视型AI”和多重手艺冗余，，，，，去实时学习、捕获并约束谁人“认真决议的AI”。。。。针对差别的重大场景，，，，，用差别的手艺组合拳来提供清静硬约束。。。。

Q：自动驾驶汽车在面临交通事故时的选择，，，，，撞人照旧撞墙、；；；；；；こ抵髡站杀；；；；；；10个路人，，，，，是科技、伦理与商业化交织的最终十字路口，，，，，也是人类几百年都没有定论的“电车难题”。。。。当这个难题被写进代码、交给机械时，，，，，它就不再是笼统的哲学讨论，，，，，而是酿成了一行行冷冰冰的概率算法。。。。在您的“人自己工智能”框架下，，，，，自动驾驶汽车事实该怎样去解决这个逆境？？

A：我们通常以为人类是理性的生物，，，，，能够做出切合自身价值观的最佳选择。。。。相比之下，，，，，人工智能系统则像是一个能够作出难以诠释的决议黑箱。。。。它们可能会突然“失控”或“叛变”，，，，，从而造成危险。。。。但令人惊讶的是，，，，，在面临艰岂非德决议时，，，，，人类也往往犹如难以捉摸的黑箱。。。。

从理论上讲，，，，，为了阻止撞到10个行人，，，，，自动驾驶汽车应该选择突然转向并撞向墙壁，，，，，哪怕这意味着牺牲司机和旅客的生命。。。。然而，，，，，事实证实人类总是充满矛盾和自私。。。。大大都人支持尽可能拯救更多生命的原则，，，，，但若是你问他们：“若是拯救10个行人意味着自动驾驶汽车会牺牲你的生命，，，，，你愿意吗？？”他们会绝不犹豫地回覆：“不肯意！”他们绝不会购置一辆设定为在须要时牺牲车主以拯救其他生命的汽车。。。。

若是我们连自己在生死攸关的瞬间会做出何种选择都不知道，，，，，那我们又怎能把这些重大决议权交给算法呢？？

至于这个伦理规则事实由谁来决议？？我以为会有一个大的框架，，，，，可是到了某一个应用场景，，，，，它可能会有差别。。。。详细的算法必需允许漫衍式的、因地制宜地举行重新定制与微调。。。。在这个历程中，，，，，无论是政策制订者（旁观者）、研发与运营企业（主宰者）照旧用户（旅客），，，，，都需要在外地化的博弈中配合加入规则的重塑，，，，，而不是依赖某一条全球一刀切的死板代码。。。。

Q：AI大幅提高了金融媒体、执法、编程等行业的生产率，，，，，但也直接引发了裁人或岗位转型的阵痛。。。。作为商业组织，，，，，在享受AI带来的“降本增效”盈利时，，，，，应该肩负怎样的社会责任？？

A：这是一个极其深刻的系统性问题，，，，，我们需要将企业分为“新老两个阵营”来辩证看待。。。。

关于全新孵化的首创企业而言，，，，，它们自然地在向“一人公司”的迅速模式演进。。。。这些企业自己没有存量员工的肩负。。。。但关于重大的存量古板企业来说，，，，，这就是一场磨练向导力智慧的强烈转型。。。。它的阵痛不但在于现有员工的安顿，，，，，更在于未来大学结业生等初级岗位的断层。。。。企业必需重新界说和调解岗位。。。。

全球规模内有一个很是乐成的案例——宜家。。。。随着AI的应用，，，，，他们对古板的呼叫中心举行了大刀阔斧的刷新。。。。那些原本只认真接听电话的重复性岗位被镌汰了，，，，，但宜家并没有盲目地把员工推向社会，，，，，而是通过重新培训，，，，，将他们升级为“定制化家居服务专员”。。。。原有的岗位虽然消逝了，，，，，但员工留了下来，，，，，并创立了更高的人文价值。。。。

别的，，，，，我必需向所有企业家提出一个警示。。。。目今行业正在迫近一个被称为“智能；；；；；；钡纳钏。。。。若是所有企业在享受AI盈利时，，，，，都简朴粗暴地通过大裁人来推高自身利润，，，，，最终会引发一个恐怖的宏观恶性循环。。。。

我们正在履历从“工业化经济”向“自主化经济”的最终跨越。。。。未来的许多生产性事情都将由机械人和AI接受，，，，，整个社会的财产分配和运行逻辑必需重新重构。。。。但我始终坚信，，，，，只要差别国家具备优异的、富有远见的向导力，，，，，人类的智慧早晚能找到一条容纳性增添的全新治理模式。。。。

Q：在可以预见的未来，，，，，人工智能绝对不但是一个工具，，，，，而是会全方位重塑人类社会。。。。面临这一不可逆的趋势，，，，，人类事实该怎样去自我调适与顺应？？

A：首先是周全“接受”并自动“顺应”，，，，，但更焦点的在于我们要拥有“指导”手艺走向的底气——由于这事实是人类亲手发明出来的手艺。。。。同样的底层手艺，，，，，通过差别的设计哲学和开发路径，，，，，结出的文明果实是完全差别的。。。。这就要求我们必需在今天，，，，，坚定地走“人自己工智能”的研发蹊径。。。。

我们必需看清一个历史时势：当AI周全渗透到社会的每一个微观场景时，，，，，凯时AG经济模式、地缘政治、教育系统都面临着倾覆性的重新调解。。。。

若是拉长文明的视线，，，，，人类在这个星球上保存了约莫30万到35万年。。。。从7万年前的认知革命最先，，，，，我们先后履历了农业革命、科学革命、工业革命和信息革命，，，，，直到今天跨入智能革命的门槛。。。。我以为，，，，，智能革命的下一站，，，，，必将是“自主化革命（Autonomous Revolution）”。。。。

当机械接受了大部学生产力，，，，，自主化革命将欺压人类推开一扇更高阶的文明大门——去真正弄清人类大脑与主体意识之间的最终关系。。。。这正是我们在这个时间点，，，，，必需倾注全人类精英资源去攻克的硬课题，，，，，而不是比及手艺失控后才去被动应付。。。。顺应人工智能的终局，，，，，着实是一场人类回归自身的哲学醒觉。。。。我们必需对这些关乎人类运气的实质哲学问题，，，，，举行最深度的投入与挖掘。。。。

（文| 春野，，，，，图片泉源 | 受访者，，，，，本内容转载自财经天下WEEKLY）