人工智能快速发展引发安全疑虑。AI公司Anthropic共同创办人克拉克表示，如果AI变得过于危险，企业未来可能需要依法设置可以完全关闭系统的“紧急关闭机制”，而且应该考虑由第三方验证。
Anthropic共同创办人克拉克接受英国广播公司BBC访问时表示，目前包括Anthropic在内，多数AI实验室都有不同方式可以“拔掉插头”、停止系统运作。但未来是否应该强制企业设置这类俗称“kill switch”的机制，以及能不能由第三方确认有效，都应该纳入AI政策讨论。
AI安全议题近期持续升温。Anthropic执行长阿莫戴日前呼吁放慢AI发展速度并加强监督。公司研究人员休宾格则表示，他个人认为，未来10年AI导致人类灭绝的机率超过10%。有“AI教父”之称的诺贝尔奖得主辛顿也认为，10%的风险估计并非不合理。
不过，部分科技业人士质疑，AI毁灭人类的说法遭到夸大。美国国会已有跨党派议员提出“AI关闭开关法案”，要求特定企业具备关闭有问题AI工具的能力；美国总统川普则反对放慢AI发展。
