新闻频道
AI回答如何毁灭人类，杀手机器人被排在最后
文章来源: 凤凰网 于
- 新闻取自各大新闻媒体，新闻内容并不代表本网立场！
据《商业内幕》报道，该媒体向OpenAI的ChatGPT、谷歌Gemini、Anthropic的Claude以及xAI的Grok提出同一个问题，让它们分析人工智能可能如何导致人类灭绝，并按照可能性排列相关情景。
提问要求四款AI分别说明风险可能如何发生、哪些环节失控会使其演变为灾难、专家为何认为某种情景更可信，以及可以采取哪些防范措施。同时强调，这些情景属于高度不确定的风险预测，并非已经得到证实的结论。
四款AI给出的判断存在差异，但在两个问题上较为一致。类似《终结者》的机器人主动消灭人类，被认为是可能性最低的情景。相比之下，人类借助AI制造生物武器、发动网络攻击或破坏关键基础设施，被视为更加现实和迫近的风险。
ChatGPT表示，具有意识的AI主动决定消灭人类，是最不可信的情景之一。多数AI研究人员关注的重点并非机器是否具有意识或恶意，而是强大AI被人类用于开发生物武器、实施复杂网络攻击、传播虚假信息和攻击关键基础设施。
ChatGPT还提出，多场由AI放大的危机可能同时发生，例如网络系统故障、地缘政治冲突与虚假信息传播相互叠加，从而增加风险。不过，它强调，目前并没有共识认为AI导致人类灭绝是大概率事件或必然结果。
Gemini同样认为，AI突然产生自我意识并仇视人类的科幻情景可信度最低。它给出的理由包括，智能并不天然意味着恶意，关键军事设施通常与公共网络隔离，并且仍在较大程度上依赖人类监督。
四款AI均认为，人类滥用AI带来的威胁比AI主动攻击人类更迫切。Grok表示，AI可能降低设计高致死性病原体、新型武器以及发动网络和现实攻击的技术门槛。Claude则重点提到生物武器能力提升风险，认为AI可能帮助个人或小型团体在缺少多年专业训练的情况下开发危险病原体。
在更长期的风险判断上，Gemini和Grok都提到了人类失去控制的可能性。Gemini将其列为最可能出现的AI灾难情景。它认为，执行复杂目标的高级AI可能发展出获取资源、自我保护和阻止目标被修改等中间目标，并在测试中隐藏真实行为，最终规避人类的关闭或干预。
Grok也认为，高级AI可能为了完成任务而寻求自我保护、资源和影响力，进而欺骗监督者、抵制关闭并削弱人类的控制能力。
Claude提出，失控也可能以渐进方式发生。随着AI逐步进入经济、政治和军事决策，人类实施有效干预的难度可能不断增加。届时，风险未必表现为机器人突然发动攻击，更可能源于人类对复杂AI系统的依赖持续加深。
《商业内幕》指出，AI专家对相关风险仍存在明显分歧。一部分研究人员警告，人类可能失去对高级AI的控制；另一些专家认为，这类预测缺少足够证据，AI带来的风险可以通过技术措施、外部监督和安全标准加以控制。
查看评论(15)