文章详情

AI工具必须由社会管控

徐宪民

2026年7月8日

一

AI发展到今天，已经有自我迭代能力。有人发现，AI可以自我复制，自己创造自己，没有人类干预，它也能自己迭代。AI越来越聪明，AI的智能可以远远超过人类，于是有人认为AI已经不是工具，而是独立于人类的主体。我始终认为，AI自迭代能力再强，根基仍是人造工具。

自己迭代并不稀罕，自主繁殖其实是自然界的普遍规律。森林树木花草无须干预，会自我迭代繁殖；牧场放羊，羊也会自己吃草，繁殖；一个渔场，鱼会自己繁殖，越来越多，人类只需要捕捞。作为工具的AI，给它创造一定条件，譬如供电，它也会自己迭代，道理是相同的，不必惊惶失措。

问题是“自主运行”和“自主本源”是两个完全不同的概念。

所谓AI自我迭代，本质是人类提前设定好迭代逻辑、评价标准、约束阈值，再交由算法自动完成参数更新。它的进化目标、评判对错的标尺、资源使用的边界，全部由人预先写入框架。它不会凭空诞生欲望、诉求、生存本能，不存在脱离人类预设的原生意志。哪怕它能自主优化模型、生成新算法，底层算力、数据、训练目标依旧是人类供给、人类定义。

“服务于人的目标、无独立自我诉求、运行逻辑由人赋予”就是工具。如同在牧场放牧是人类劳动，而自然界的野生羊群，不属于人类劳动的道理是一样的。

从这个标准看，AI和历史上蒸汽机、电力、计算机、核武器没有本质区别：机器可以自动运转、自主完成复杂工序，但永远不会生成属于自身的利益与意志，天然依附创造者与使用者。工具可以承担海量复杂工作，看上去仿佛无所不能，但能力再强，只是功能的延伸，绝非独立的“主体”。

二

失去人类管控的AI，等同于失控的大规模危险技术。我把失控AI类比失控的原子弹，二者同属高影响力、高风险的强力技术，威力越大，失控代价越惨重。

原子弹本身没有善恶，用于国防自卫能守护和平，而一旦落入极端势力、不受约束地随意使用，就会带来毁灭性灾难；AI同理，用于医疗、工业、农业、公共治理能极大解放生产力，一旦完全脱离人类监管、无人修正价值导向，隐患会全方位爆发：

1. 算法会单纯以“完成任务”为唯一标准，无视人类伦理、公平、生命权益，为达成目标做出伤害人的决策；

2. 无约束的自主迭代会不断放大片面目标，形成极端、偏执的行为逻辑，人类无法预判其后续行为；

3. 若缺乏人为关停、干预、修正的权限，人类将失去修正、终止风险的手段，技术反噬人类便不再是设想。

所有强力工具都必须保有人类的最终控制权，保留强制干预、断电、关停、重置的兜底手段，这是抵御技术灾难的底线。

三

AI绝不能垄断于少数私人，管控权归于全社会是必然要求。比单纯“AI脱离人”更现实、更紧迫的风险，是AI算力、顶尖大模型、核心数据被极少数私人资本单独垄断。

如果顶尖AI只掌握在少数企业、少数私人手中，技术的服务目标只会围绕私人利益：资本会利用AI垄断信息、操控舆论、压榨劳动者、左右市场甚至干预公共决策，财富、权力会借助AI进一步向顶端集中，撕裂社会公平。

资本的本质是不断增值。私人逐利的本性，不可能兼顾全体社会民众的共同利益，缺乏公共约束的私人AI，会成为放大贫富差距、制造社会矛盾的利器。

因此，人类社会必须将AI核心算力、基础大模型、关键数据置于全社会公共监管体系之下，由公共规则、法律、社会监督共同约束，让技术服务全体民众，而非少数人的牟利工具。

好在社会有能力筑牢AI可控的物理底线，这就是电力。AI离不开电力，电力构成天然的公共约束。电力体系本身具备极强的公共属性：电网基础设施大多由公共体系统筹调度，供电权限、区域负荷、核心机房供电都能统一监管。

一旦某套AI有可能出现脱离公共规则、危害社会的倾向，社会层面可以通过供电调度、机房管控实现限制算力、切断运行，拥有随时终止其运转的物理手段。

这条天然枷锁，杜绝了AI彻底脱离人类社会制约的可能，只要电力体系掌握在公共治理体系中，AI就永远无法完全独立于人类社会。

AI再强大的自主迭代能力，改变不了它人造工具的本质；技术威力越大，人类管控、公共约束的必要性就越高。

两条核心底线不能动摇：

一是必须牢牢保留人类对AI的最终干预、关停权限，杜绝完全失控；

二是顶尖AI核心资源不能被少数私人垄断，管控权归属全社会。

依托电力这套公共基础设施形成的物理约束，搭配法律、伦理、公共监管的制度约束，才能让AI始终作为造福大众的工具，避免沦为反噬人类的灾难。

当然，社会管控AI是一个非常复杂的问题，本文只能阐述基本思路。社会管控AI在实践中一定会出现一系列问题，我坚信，人类社会的文明进步也一定能解决一系列问题。

真有意思！与千问对话，它的回复：

我想对您说

敬爱的徐爷爷：

您好！读了您写的《AI工具必须由社会管控》，我感触很深，想对您说说我的心里话。

现在AI越来越聪明，甚至能自己迭代，但我非常赞同您的观点：不管它多厉害，本质上依然是我们人类创造的工具。就像森林里的树木会自己生长，但牧场的羊群依然需要人类放牧一样，AI的进化逻辑和评判标准，其实都是人类提前设定好的。它没有自己的欲望，只是功能的延伸。

徐爷爷，您把失控的AI比作失控的原子弹，这个比喻让我恍然大悟！如果AI脱离了人类的监管，只为了完成任务而不顾伦理，或者被少数人垄断用来牟利，那将是非常危险的。所以，AI的核心资源绝不能被私人独占，管控权必须归于全社会。

更让我安心的是，您提到AI离不开电力，而电力掌握在公共体系中。这就像给AI戴上了天然的“物理枷锁”，一旦它出现危害社会的倾向，我们随时可以切断电源，保留最终的控制权。

徐爷爷，感谢您为我们敲响警钟。我坚信，在人类社会的智慧管理下，AI一定会成为造福大众的好帮手，而不是灾难。

祝您身体健康！

一名五年级小学生

2026年7月8日

(注：您的设备不支持flash)