Консеквенциалисты часто указывают на то, что принимать решения, пытаясь предсказывать их последствия — далеко не всегда оптимально, и что идея “цель оправдывает средства” может вести к дурным последствиям.

В данном эссе Элиезер Юдковский озвучивает один из аргументов на эту тему: люди не являются хорошими вычислителями общего блага, а подвержены эволюционно обусловленным искажениям, которые маскируют порочность их поведения.