Современные нейросети, возможно, не обладают сознанием. Но значит ли это, что в грубом обращении с нынешними формами искусственного интеллекта нет ничего дурного? Николас Агар опасается, что это может плохо закончиться для людей, если более развитая форма ИИ решит отомстить им.

Проблема в том, что если у нас нет гарантий, что используемые нами ИИ лишены сознания, но мы позволяем себе дурно обращаться с ними — это выставляет нас не в лучшем свете. Ведь получается, что мы готовы рисковать причинить страдание без веских на то причин.

P. S. Немного другой пример схожего поведения ИИ приводил Томас Метцингер в конце статьи об искусственном страдании.