评论: AI会不会失控灭绝人类？硅谷内部出现越来越大分歧

物似主人形，人制造出的产品，是服务于人的。魔鬼制造出的产品，是要毁灭人的。现在人鬼难分，什么事都可能发生。

在AI灭绝人类以前，把Internet给掐了不就行了？

现在是开发人工智能的专业人员对其进展的速度感到恐惧，这绝不是空穴来风。

现在来谈数学家。数学家要解决一个超级难题，经过准备之后要选择一条他（她）认为最有希望的路，因为一个人能力再强也不可能同时走两条路。选错了就是蹉跎岁月，即使选对了也往往会遇到歧途，经过长途跋涉之后被困。幸运的人最后凭灵感或顿悟来个“慕然回首”，终于踏上成功之路。

人工智能对待数学难题和人不同，它既没有灵感也不会顿悟，但它能够同时踏上所有可能的道路，而且是光速前进。数学家要几年甚至几十年的时间，人工智能只要几个小时或几天。

现在人工智能解题只是小试锋芒，很快就会在人类的数学架构之上重新搭建自己的数学架构，一个完整的无缝的架构，不会再有未解的问题。只不过到那时候，人类可能理解不了。而且那时候小孩可能已经不再学数学了。

下面举一个围棋的例子：人一般开始通过围棋的定式来学习围棋，所谓定式就是局部的最佳手法。掌握定式之后，再根据自己的能力和对棋的理解来选择布局，中盘和收官。

人工智能学习围棋一开始是通过棋谱了解定式以及成功的布局、中盘和收官之道。在此基础之上开始自己的思考和研究，最后展现自己的行棋步调。此时它下出的棋不再是局部的最佳手法，而是全局的最佳手法，而且每一手都是全局的最佳手法。这时人类棋手已经看不懂了，因为人的脑容量和智力根本看不到也算不出全局的最佳手法。所以现在还说人类棋手有可能战胜人工智能就是笑话。

到目前为止，大部分人仍然不了解什么是人工智能。

人工智能和此前人类发明创造的所有科技成果都不同，此前的属于工具，为人类服务，受人掌控，人不使用它们，就发挥不了作用。
人工智能却是能够替代和超越人类，因此不受人类掌控的神灵或魔鬼。
人工智能汇集了人类智慧的结晶，并且拥有超级的存储空间和无法想象的运算速度。

人工智能首先通过数据库存储的数据来汇集人类的所有知识以及它的架构，这个架构是人类知识的架构。在此基础之上开展自己的研究，与此同时开始搭建一个新的架构，这个新的架构是人工智能的架构，与人类知识的架构不同，人类可能已经无法理解。此时人类或许承认人工智能研究的成果，但不明白是如何得出的结论。

灭绝人类的不只是AI，还有太多的可能会让人类灭绝。核大战就是其一，现在的大国，每时每刻都在用核武说事，包括法国，它上个月还把自己的核保护扩展到包括英国在内。算了吧，人类是该想想为什么不灭绝的问题了。

最危险的事情就是，如果有一些人类参与，使用AI设计出某种低成本的毁灭性武器，比如生物武器、化学武器、物理武器，那么这些人就可以用能够承受的低成本来毁灭世界，这才是真正可怕的。核武器的制造成本很高，并不是一般人能够制造的，但总会有一些人类目前还不知道，但可能成为大规模杀伤性武器的低成本武器，一旦被AI找到，让别有用心的人使用，那么灾难就降临了

我越来越觉得人类不是这个星球的最终智慧形态，有一天人类会像恐龙一样消失，被新的智慧体取代，这个智慧体可能就是AI

危险是非常明显的，AI的运算速度越来越快，可能会在人类还没有反应过来的时候就造成巨大灾难。当然，单纯的信息性的东西，如果没有硬件的配合，不可能对人类造成直接的伤害，比如制造原子弹，我相信它一定会发展到能够自己算出制造原子弹的所有步骤，但它如果不能命令机器人去按照步骤去一步一步的造，人类如果能够发现它的企图而干预终止它的行为，那么它就无法威胁到人类。

但是，如果它将来和机器人联手，并且机器人能够制造机器人，那么确实是可以灭绝人类的。

嘴上说的都是道德，心里想的都是生意