«Ментальные преступления» — это такие сценарии, при которых мышление достаточно сложного агента приводит к созданию внутри него существ, подвергающихся тому или иному вреду. Например, это может случиться, если масштабная ИИ-система будет создавать столь детальные симуляции людей, что они будут обладать сознанием, страдая и умирая внутри нее.

В статье рассматриваются четыре возможности того, как может произойти ментальное преступление, а также проблемы, стоящие перед нами, если мы хотим предотвратить подобные сценарии.

См. также: введение в тему.