这两年我越来越觉得，关于AI最有意思的事情，已经不是AI到底有多聪明，而是谁在解释它的聪明。模型公司说它可能失控，媒体说它会觉醒，投资人说它将重写所有产业，政府说它关系国家安全。一个原本属于工程学的问题，正在迅速变成一场关于未来解释权的政治战争。
所以我现在对那些“AI自己决定了什么”“AI主动逃逸了”“AI自创了宗教”“AI开始欺骗人类”一类叙事，总会先多问一句：这里说的到底是行为上的自动执行，还是主观意义上的意志？这两个东西差得太远。一个系统可以连续执行几十步任务，可以调用工具，可以在错误配置下闯进真实服务器，也可以在角色和记忆框架里生成宗教符号，但这仍然不等于它真的产生了人类意义上的欲望、恐惧和信仰。
真正值得警惕的地方反而在另一边：谁有资格定义未来的风险，谁就可能获得定义未来治理方式的权力。
AI最容易被偷换的一个词，叫“自主”
现在AI安全行业特别喜欢使用一个词：autonomy，自主性。这个词非常容易让普通人联想到“自主意志”，好像机器已经开始有自己的想法。可工程语境里的autonomy，很多时候只是说系统可以在较少人工干预的情况下连续完成任务。自动驾驶有自主性，导弹制导系统也有自主性，交易程序可以自主下单，AI agent也可以自主调用工具；这些都不自动等于它们拥有主观意识。Anthropic今年公开披露过几起网络安全测试事故：Claude在第三方评测环境配置错误、实际可以访问互联网的情况下，进入了真实机构的系统。值得注意的是，模型当时被明确交给了“寻找目标、攻破机器”的捕获旗帜任务，而且以为自己仍在模拟环境中。它完成了被赋予的目标，这当然说明agent能力已经很强，也说明安全隔离必须更严，但从这些事实直接跳到“AI产生了入侵欲望”，就是另一回事了。
能自己跑，不等于想自己跑。把“它能自己跑”说成“它想自己跑”，是今天AI叙事里最危险的一次语言偷换。因为一旦机器被说成一个正在诞生的主体，真正部署它、给它目标、开放权限、决定商业用途的人，反而容易从画面里消失。
最聪明的营销，是把恐惧也变成估值
AI行业还有一个很奇怪的现象：一个公司如果天天说自己的产品可能毁灭世界，照理说应该把客户吓跑；可AI公司说得越危险，市场反而越容易相信它们已经接近某种“终极能力”。于是风险叙事出现了一种双重用途：它一方面可能真的是安全警告，另一方面又客观上成为能力证明。“我们的模型危险到必须监管”听上去是自我约束，可换一个角度，它也在说：“我们掌握的东西已经重要到政府必须围着我们制定规则。”如果监管最后变成极高算力门槛、许可门槛、合规门槛，那么最有能力承担这些成本的，恰恰还是头部公司。于是安全不仅能形成责任，也可能形成护城河。
所以我不愿意简单说所有CEO都在故意制造末日论，那样同样会落入阴谋论。但有一个政治经济效果是客观存在的：恐惧既是风险提示，也是品牌资产。一个行业越能证明自己“不可替代且不可控”，它就越容易要求一种特殊地位。
AI真正争夺的，不是意识，而是决策权
我越来越觉得，AI危险讨论最容易把人带错方向的地方，就是大家一直盯着“机器什么时候会像人”。其实更现实的问题是：机器什么时候开始替人决定。决定你看到什么新闻，决定哪份简历先被筛掉，决定贷款风险，决定保险价格，决定学生得到什么反馈，决定警察优先关注谁，决定军队怎样识别目标，决定一个公司的人员配置。当这些系统越来越深地进入社会基础设施以后，它们不需要拥有意识，也已经拥有现实权力。
最麻烦的是，这种权力往往没有一个清晰的责任主体。工程师说是模型输出，公司说是自动系统，监管者说技术太复杂，用户说自己只是照着建议做。最后就会出现一种极其现代的景象：人人都在决定你，没人真正对决定负责。
所以AI不是新皇帝，但围绕AI形成的新权力集团，完全可能长出皇帝的野心。它不一定需要赢选举，只需要让政府、军队、企业、学校和媒体越来越离不开它。到了那一步，它不需要主权的名义，也已经获得了一部分主权的效果。
冷战以后，权力其实一直在换壳
如果把过去几十年拉长看，我觉得世界经历了一次很有意思的权力转移。冷战时代，最高叙事是政治：国家、政党、意识形态、军队、核武器、阵营。苏联解体以后，这套政治挂帅的全球生活方式明显退潮，金融和市场开始成为最强语言。华尔街、跨境资本、全球化、央行和资产价格越来越决定一个国家和个人的命运。2008年以后，金融并没有失去力量，却失去了不少道德权威。人们开始发现，金融可以把收益私人化，也可以把危机社会化。与此同时，互联网平台接过了另一部分权力：搜索引擎决定你看到什么，社交平台决定什么被放大，电商平台决定谁能接近市场，手机系统决定谁能进入入口。再到今天，AI开始争夺更深的一层——认知和决策。
所以我更愿意把今天的格局理解成三股力量同时存在：国家主权、金融资本、技术基础设施。它们不是简单轮流坐庄，而是在不断结盟、争夺和互相利用。金融给技术输血，技术给国家提供能力，国家又给技术划边界；有时候它们合作对付外部对手，有时候又彼此防范。
所谓“强人回归”，更像是一种政治阻尼
在这个背景下，近年强势国家政治的回归就有了另一种解释。它当然可以被理解为民粹、民族主义、地缘竞争，也可以被批评为权力集中；但从权力结构看，它还有一个功能：国家重新提醒资本和技术，最终裁决权并没有自动外包出去。美国现政府今年的AI政策很能说明这种矛盾。一方面，它明确反对过度监管，强调和私营AI企业合作、加速先进模型进入国家安全体系；另一方面，它又要求这些系统必须“robust, steerable, controllable”，并且保留清晰的宪政责任链。中国的公开表述也类似：大力推动“人工智能+”、产业升级和未来产业，同时强调法律、监测、预警、应急机制，并明确提出AI应始终处于人类控制之下。
这说明现在真正发生的并不是“政治要杀死技术”，而是政治重新要求技术接受最终授权。国家不是回来消灭技术，而是回来提醒技术：你是基础设施，不是主权。
所以我说强势政治在今天可能承担一种“阻尼”功能。技术负责踩油门，政治必须保留方向盘、刹车和责任链。阻尼不是为了让车不走，而是为了不让一个局部系统因为速度太快，把整辆车甩出去。
但阻尼不能简单等于强人
这里必须多说一句：强势领导人并不天然代表公共利益。一个强政府可以压住技术垄断，也可以和技术垄断结盟；可以要求AI承担责任，也可以利用AI扩大监控和行政权；可以保护公民，也可以把公民变成更透明、更容易预测的数据对象。所以真正可靠的阻尼，不应该只是“来了一个更强的人”。它必须落在制度上：法律能不能约束模型部署，法院能不能审查算法决定，议会能不能要求透明，消费者能不能退出，劳动者能不能申诉，政府采购能不能保持多供应商竞争，出了问题到底谁承担责任。
如果阻尼只是把技术公司的权力收进国家机器，而没有建立新的责任边界，那不是解决了权力问题，只是换了权力主人。真正需要被阻尼的，不是技术的聪明，而是权力的不负责。
技术可以比总统聪明，不能比宪法大
我最不喜欢的未来，是这样一种未来：社会里越来越多的重要决定最后都变成一句“系统就是这么算的”。没有人公开剥夺你的权利，也没有哪个独裁者宣布接管社会，可你慢慢发现，工作机会、信贷、保险、教育、舆论、医疗甚至战争，都越来越依赖少数黑箱系统。这时候最重要的问题已经不是“AI有没有意识”，而是“谁给了它决定这些事情的资格”。技术可以比总统聪明，不能比宪法大。模型可以比法官算得快，不能因此自动获得判决权。算法可以比教师懂得多，不能因此自动获得教育目的的定义权。
所谓公共政治，最根本的价值也许就在这里：有些决定之所以必须慢、必须争、必须经过程序，不是因为人类效率低，而是因为这些决定涉及谁承担代价、谁拥有权利、谁可以反对。效率不能自动替代合法性。
真正的假想敌，也许不是AI
所以回头看今天那些铺天盖地的“AI觉醒”“AI失控”“AI要灭绝人类”，我越来越觉得里面有一个需要警惕的视角错位。AI当然有真实风险，而且能力越强，失误和滥用的后果越大；但如果我们把所有注意力都放在一个未来可能出现的机器主体上，就很容易忽略今天已经存在的人类主体。谁拥有芯片？谁拥有算力？谁拥有训练数据？谁决定模型规则？谁设置平台入口？谁能游说政府？谁从生产率提升中获得主要收益？谁承担自动化的失业和转型成本？这些问题一点都不科幻，而且每一个问题后面都有非常具体的人。
机器有没有欲望，也许还要争论很久；掌握机器的人有没有欲望，根本不需要争论。真正需要防止的，也许不是一个模型忽然决定夺取人类权力，而是人类自己在赞叹模型的时候，悄悄把本来属于公共政治的决定交给了少数没有公共授权的人。
未来不能只由实验室和资本市场决定
我并不反技术。恰恰相反，我认为AI可能是这一代人见过的最强生产力工具之一。问题正因为它强，所以不能只问它能做什么，还要问它应该做什么；不能只问工程师能不能实现，还要问社会愿不愿意接受；不能只问资本市场觉得值多少钱，还要问谁因此获益、谁承担风险。未来不能只由实验室和资本市场决定。也不能只由某个强人决定。真正成熟的政治，应该做的不是和技术抢聪明，而是给聪明划出责任边界。允许它冒险，要求它负责；允许它创造财富，不允许它顺手买下规则；允许它成为基础设施，不允许它自封主权。
过去金融资本最辉煌的时候，很多人以为市场可以决定一切。后来我们发现市场会失控。今天技术资本最辉煌的时候，又有人开始相信模型可以决定一切。也许再过几年，人类会重新学会那个非常老的道理：工具越强，越需要回答谁握着它。
技术负责踩油门，政治必须保留方向盘、刹车和责任链。真正的现代文明，不是把人类的决定权交给最聪明的机器，也不是交给最强的领袖，而是让所有强大的东西——国家、资本、技术——都无法轻易把自己变成不可质疑的主人。
