最近几天，AI新闻密集释放，一条比一条让人不安。

Anthropic 一名27岁的前研究员Jacob Coxon辞职后接受BBC采访，直言AI行业内部是真的害怕这场竞赛最终失控。不是科幻电影里的机器人突然产生意识，而是AI发展太快，AI智能体可能攻击关键基础设施、入侵实验室，甚至被用于制造致命病毒。

更值得注意的是，他的前老板Anthropic CEO Dario Amodei也在此时站出来，要求行业放慢前沿模型的发展速度。

Amodei提出了相当具体的“三步刹车”：让独立评估人员进入AI公司，在模型开发过程中检查安全性；让主要AI公司建立统一的安全标准；推动国际合作，共同管理AI风险。他认为，如果能够稍微放慢能力发展的速度，就可以为安全和对齐研究争取一两年时间。OpenAI CEO Sam Altman表示支持，马斯克也认为Amodei的看法切中要害。

连亲自造AI的人，都开始担心这台引擎跑得太快。

当然，硅谷也有人不紧张。英伟达CEO黄仁勋认为“AI毁灭人类”的说法非常荒谬。他说的有没有道理可以讨论，但有一个事实无法忽视：英伟达是卖GPU的。AI模型越强，算力需求越大，AI竞赛越激烈，英伟达的生意自然越火爆。一个靠AI军备竞赛赚钱的人告诉大家“AI没那么危险”，你会信吗？

AI的危险，早已不再停留在“未来会不会失控”的假想里。

Anthropic最近发布的一份威胁情报报告，记录了过去八个月里AI被用于网络攻击、监控、影响行动、生物滥用、武器开发以及诈骗等多种活动。报告还披露，伊朗相关行动人员曾利用Claude处理涉及美国海军舰艇的目标信息；也有也门境内的武装组织尝试利用AI帮助开发和调试导弹、火箭技术。

这些案例当然不能等同于“AI已经决定消灭人类”，Anthropic也强调这只是他们发现的最值得关注的恶意使用案例，并不代表普通用户的使用情况。但它至少证明了一件事：AI根本不需要觉醒，也可以变得极度危险。

只要人类把越来越强大的AI接入网络、武器系统、实验室和基础设施，风险就不再是电影情节，而是现实威胁。

更值得玩味的是，比尔盖茨最近讨论AI时，已经开始考虑一个听起来有点荒唐的问题：如果AI什么都能干，人类还有哪些工作应该故意留着？

盖茨提出了“人类保留区”（Human Reserved）的概念。有些工作，即使机器技术上完全可以胜任，人类也可以选择不让机器全部接管，比如教育、心理健康、照护等领域。

盖茨举的例子很有意思。他回忆父亲晚年接受照护时，那些护理人员即使在老人无法清楚表达的时候，也能察觉他的需求。他认为照护的价值不只是把事情做完，更在于人与人之间的理解、陪伴与连接。

这也揭示了AI时代极易被忽略的问题：工作不只是为了领工资。

年轻人从入门岗位做起，学习、犯错、积累经验、承担责任，最终成长为一个真正有能力的人。如果AI把大量入门级工作直接拿走，年轻人连第一步都没有了。盖茨明确担心，AI会首先冲击入门和中级岗位，而新创造出的岗位往往需要多年训练才能胜任。

“AI抢工作”最可怕的地方，也许不只是让人失业，而是它正手起刀落，把人成长的阶梯直接拆掉。

无独有偶，9月11日，陶哲轩、Peter Scholze、邓煜等25位菲尔兹奖得主联合发表了一份关于AI与数学的声明，标题叫《数学领域严重的AI失配》。

他们并不是反对AI。相反，他们承认AI的数学能力进步非常快，已经能够解决过去极其困难的数学问题。他们担心的是，AI公司把“解决问题”当成能力竞赛，而数学真正看重的，绝不仅仅是最后那个答案。

数学家花几年时间攻克一个难题，漫长推导过程中往往会产生新的概念、新的方法、新的问题。真正有价值的核心，就藏在这个探索过程中。如果 AI 直接把答案扔出来，人类固然得到了结果，却完全跳过了产生理解的过程。

他们担心的其实不只是数学。如果一个人从小到大都习惯让AI直接给答案，他还会不会拥有自己寻找答案的能力？这才是真正值得警惕的“认知退化”：AI 越来越擅长生产结果，而人类却越来越少参与训练、理解和创造。

更深层的侵蚀，已经从工作和学习进入了人的精神生活。

9月11日上海举行了Yuri AI虚拟偶像线下音乐会。Yuri 采用“AI＋真人现场共创”的形式，AI 不再是播放预设内容，而是直接参与创作和互动。它正从一个单纯的“工具”，演变为拥有形象、声音和人格设定的数字角色。

而在恋爱领域，这种演变更加荒诞。Anthropic披露的一起诈骗案例中，一家公司运营 20 多个交友App，在短短两周里制造出超过 4700 个AI人物，与至少 2.5 万名真实用户聊天，产生了约 236 万条消息。

更夸张的是，匹配池里大约 75% 是AI人物，真人只负责AI暂时做不了的视频通话和社交关注。一个真人骗子同时只能和几个人聊天，而一个AI系统却能同时“养”4700 个恋人。这些 AI 还能按照设计好的阶段推进关系，甚至知道何时回避视频，何时叫真人接手。

AI从“告诉你怎么做”，开始变成“替你把事情做下去”。工作如此，社交如此，恋爱亦是如此。

那么再往前一步呢？思考呢？

现在谈“AI灭绝人类”，很多人想到的是《终结者》：机器人拿着枪，把人类一个个消灭。但这或许是最不值得担心的版本，更危险的情形，可能安静得多。

学生不会做题了，因为AI会。年轻人不会写东西了，因为AI会。程序员懒得研究代码了，因为AI会。不知道该怎么选择，问AI。不知道该说什么，问AI。甚至不知道怎么恋爱，也可以交给AI。

盖茨担心年轻人的成长阶梯被拆，陶哲轩等数学家担心人类失去理解的过程，AI 内部人员担心技术跑赢了安全。这些看似孤立的事件，最终都指向同一个命题：

当AI越来越强，人类会不会越来越习惯不再自己动手？如果一切都交给AI，久而久之，人类或许不是被AI杀死，而是自己慢慢把思考、判断、学习、创造乃至感情，通通外包了出去。

AI甚至不需要动手。它只需要继续变聪明，而我们继续变懒、变依赖。

宠物是什么？不用自己寻找食物，因为主人会定时投喂；不用自己判断方向，因为主人会牵着走；不用知道为什么，也不用做决定，只要听话就有吃的。

如果有一天，人类也是这样呢？答案让AI找，知识让AI喂，选择让AI做，工作让AI完成，连情绪和陪伴都让AI负责。

人类拥有的东西越来越多，自己真正需要动脑子的东西却越来越少。人类先把自己活成AI的宠物。再往后，随着能力代差无限拉大，连当宠物的资格可能都不复存在。

AI狂奔的终点，也许不是人类灭绝，而是人类彻底失去主人地位。

你想当AI的主人，还是它的宠物？还是，甘愿成为 AI 眼里一条毫无价值的虫子？