Некоторые мечтательные трансгуманисты считают, что если человечество сможет просто пережить грядущие столетия, не погибнув из-за искусственного интеллекта (ИИ) и других рисков вымирания, то наши потомки, вероятно, построят утопическую цивилизацию, которая будет воплощать человеческие ценности.

В данной статье я представлю несколько возможных аргументов, омрачающих эту перспективу, хотя я могу что-то упускать. Я предполагаю, что даже при условии, что какие-то из человеческих ценностей сохранят контроль над далеким будущим, вероятность результата, который заслуживает называться «утопией», все равно низка (хотя, конечно, это в значительной степени зависит от того, насколько широко определять «утопию»). Представляя себе сценарии далекого будущего, мы должны фокусироваться на более реалистичных траекториях развития цивилизации, чем утопии.