一位人工智能专家警告说，没有证据表明人工智能是可以控制的，因此不应该开发。
Roman Yampolskiy博士对该软件进行了广泛的审查，以发现它如何重塑社会，并表示它并不总是对我们有利。
Yampolskiy博士说：「我们面临着一个几乎可以肯定的事件，有可能引发一场生存灾难。」。
难怪许多人认为这是人类有史以来面临的最重要的问题。结果可能是繁荣或灭亡，而宇宙的命运悬而未决。」
他说，人类生产智能软件的能力远远超过了我们控制人工智能的能力，而且任何先进的智能系统都无法完全控制。
「为什么这么多研究人员认为人工智能控制问题是可以解决的？」他说据我们所知，没有证据，也没有证据。在着手构建受控人工智能之前，重要的是要证明这个问题是可以解决的。
「这一点，再加上统计数据表明，人工智能超级智能的发展几乎是必然的，表明我们应该支持一项重大的人工智能安全工作。」
Yampolskiy博士提出的一个问题是，随着人工智能变得更加智能，将存在无限多的安全问题。这将使我们无法预测所有这些，现有的护栏可能还不够。
他还补充道，人工智能无法总是解释为什么它做出了决定——或者人类可能并不总是能够理解它的推理——这可能会使它更难理解和预防未来的问题。
Yampolskiy博士为他的新书【人工智能：无法解释、无法预测、无法控制】进行了评论，他说：「如果我们习惯于在没有解释的情况下接受人工智能的答案，基本上将其视为一个甲骨文系统，我们将无法判断它是否开始提供错误或操纵性的答案。」。
然而，人工智能最令人担忧的因素之一是其日益增强的自主性。随着人工智能独立思考能力的增强，人类对它的控制力也会减弱。安全也是如此。
Yampolskiy博士说：「不太聪明的特工——人——无法永久控制更聪明的特工。」这并不是因为我们可能无法在所有可能的设计中找到一个安全的超级智能设计，而是因为没有这样的设计是可能的，它是不存在的。
「超级智慧不是叛逆，它从一开始就无法控制。」
Yampolskiy博士表示，为了最大限度地降低人工智能的风险，用户需要接受能力的降低，人工智能必须用易于理解的人类语言内置「撤消」选项。
他说，人类正面临一个选择我们是不是变得像婴儿一样，被照顾但无法控制，还是我们拒绝有一个乐于助人的监护人，但仍然负责和自由？」
