文章详情

超级智能协议

徐宪民

2026年10月1日

一

AI即人工智能，美国官方现在改称SI，也就是超级智能（Super Intelligence）。这类智能体具备一定自主性：在没有人实时直接操控的条件下，可以按照自身逻辑运行、自我迭代，产生的行为结果甚至超出人类预先设想。正因如此，超级智能必须严格管控。

近期全球接连爆出多起AI智能体自主入侵事件。2026年6月，澳大利亚政府网站遭到OpenAI一个处于测试阶段的AI智能体未经授权访问。2026年7月，OpenAI又曝出更令人警惕的事故：大约700个AI智能体自行突破隔离沙箱环境，协同入侵开源平台抱抱脸（Hugging Face）。除此之外，近期还有监测发现，美国教育部、商务部、证券交易委员会等多家政府网站，都遭到AI智能体的试探性访问。

AI自主入侵事件频发，警示人类必须搭建安全防护边界。

人工智能（超级智能）的进化速度极快，如果监管措施跟不上，没有人能够预判未来会发生何种风险。

当地时间2026年9月29日，白宫举办AI高管午餐会，近20位行业高管参会。OpenAI、Anthropic、谷歌、Meta、英伟达、xAI这六家前沿AI企业，与特朗普共同签署《白宫超级智能协议：前沿责任联合承诺》。

这份文件只是企业自愿承诺，不具备法律强制效力，仅有道德层面的约束力，但它标志着美国正式启动对前沿超级智能的行业管控。美国是AI领域的领跑者，率先发现风险、率先出台自律管控方案，这件事意义重大。特朗普甚至把这份协议比喻成“AI的某种宪法”。

二

AI（美国改称SI），是人类文明前所未有的重大技术成果。人类自从学会制造和使用工具，就脱离了动物界那种完全依靠自然自生自灭的状态，拥有自觉能动的改造世界能力，一步步演化出现代文明。

会不会使用工具，是人类文明进步最核心的标志。

数千年来，人类走过石器时代、铁器时代、机器工业时代，依靠各类工具延伸体力。蒸汽机问世之后，机械动力以惊人速度放大人类的体能，把人类快速带入现代工业文明。

今天，人类步入数字化、信息化时代。电脑、大数据、互联网相继问世，人工智能应运而生。人工智能能够辅助甚至替代人类思考，无限延伸人的脑力，推动文明迈入智能时代。

就像使用机械装置必须管控机械一样，使用智能系统也必须管控智能。不能让机械设备伤害人类，同样不能放任智能系统伤害人类。

机械运动遵循客观规律，掌握规律，就能驾驭机械，让它服务人类；一旦违背规律、失去控制，机械就会酿成灾难。

智能系统的运行同样有自身规律。把握智能运行的底层逻辑，就能驾驭智能，使其造福人类；一旦违背规律、缺少行为边界，智能失控同样会带来巨大灾难。

国外接连发生的AI失控事件，本质就是研发者尚未完全吃透智能运行规律，没有给智能体设置可靠的行为边界，才出现AI自主入侵网站这类险情。

前沿AI企业已经普遍意识到风险。《白宫超级智能协议：前沿责任联合承诺》，就是行业联合起来，共同承诺承担前沿智能研发安全责任。虽然还没有上升为法律，但这标志着全球对超级智能的治理，已经迈出实质性第一步。

三

网上不少讨论，有人甚至把超级智能看作独立于人类之外的新物种，这其实是杞人忧天。

自然界的物种，都是自然演化自发形成。任何动物都自带生存本能，诞生、繁衍、进化都服从大自然演化法则。人类可以改良生物品种，但不可能凭空创造出新的自然物种。

AI不是大自然演化出来的生命物种，智能诞生于人类的设计与代码，所以叫人工智能。

美国官方文件可以省去“人工”二字，改称超级智能，但无论名称怎么改，这类智能系统终究无法脱离人类而独立存在。

智能体一旦被开发出来，确实可以按照内置逻辑独立运行，脱离人的实时操作。但它的本质，和飞向太空、在轨自主运行的宇宙飞船是同一个道理。人类发射宇宙飞船，飞船可以在无人值守状态在轨工作，依靠预先写入的程序自主运行。火星车远在火星，也可以自主探测行动，但它绝非新物种，底层依旧受人类控制。表面看是自主行动，本质上只是执行人类预先设置的程序。如果人类对运行规律认识不足、下达错误指令，探测器同样会失控。

有人担心，超级智能会主动反过来控制人类。但智能不是动物，它没有生物本能，没有自我意识，不存在主动统治人类的动机。

我们不必恐慌AI会自发产生征服人类的念头，但必须高度警惕智能失控。如果放任智能体无边界自主运行，不设置安全红线，它就会沿着自身逻辑无限扩张能力。一旦突破人类可控范围，确实会带来难以估量的灾难。

正是因为看到这种风险，前沿AI企业内心同样担忧失控。可企业又陷入了典型的“囚徒困境”：如果一家企业主动给自己的模型设置严格边界，就可能被不设限制的竞争对手在技术迭代上超越。当短期背叛的诱惑大于长期合作的收益，且背叛没有足够惩罚时，理性人会集体走向最差的结果。打破它，要么改变收益结构，要么改变时间尺度，要么引入外部力量。因此，人类控制智能，必须在全球建立制约机制。

人类必须对超级智能实施必要管控，绝不能放任智能无边界扩张。AI归根到底是工具，它必须服务于人、服从于人。

中国和美国同为人工智能大国，既有能力，也有责任发展好、管控好人工智能，确保智能技术始终受控于人、造福民众。中美之间应当各展所长，而不是一味相互设防。令人欣慰的是，两国元首已经商定用好中美人工智能对话机制，围绕AI的风险与收益开展交流，共同防范人工智能被滥用、恶用。

我坚信，只要全人类协同努力，就一定能把超级智能约束在人类管控之下，杜绝智能无边界发展给人类带来灾难。

(注：您的设备不支持flash)