Почему мы должны оставаться кооперативными

Если похоже, что технологический прогресс и колонизация космоса могут привести к астрономическому количеству страданий¹, разве мы не должны сделать все возможное, чтобы остановить их? Ну, стоит обсуждать, в какой степени мы как общество хотим таких исходов, но я предполагаю, что кто-то все равно продолжит прогресс, и его будет трудно ограничить без крайних мер. В конце концов, те, кто продолжит развивать технологии, будут обладать большей частью мировой власти. Эти люди, хотя бы в силу эффекта отбора, будут иметь сильное желание разработать искусственный интеллект и колонизировать космос.

Сопротивление может быть не полностью тщетным. Есть небольшой шанс, что уменьшители страданий смогут повлиять на общество таким образом, чтобы предотвратить колонизацию космоса. Но было бы лучше, если бы уменьшители страданий, вместо борьбы с технологами, пошли на компромисс с ними: мы позволим вам распространиться в космос, если вы придадите больше значения нашим опасениям по поводу будущих страданий. Вместо очень маленького шанса на полную победу, такой кооперативный подход дает более высокие шансы получить заметную долю от всего уменьшения страданий, которого мы хотим. Кроме того, это значит, что уменьшители страданий также могут выиграть в том сценарии (вероятность которого ~30%), где технологическое развитие предотвращает больше страданий, чем причиняет, даже без учета соображений стратегического компромисса с другими людьми.

В идеале эти компромиссы должны принимать форму прочных договоренностей. Некоторые примеры возможны даже в краткосрочной перспективе, например, если уменьшители страданий и сторонники космической колонизации соглашаются отменить финансирование проектов с взаимно-нейтрализующим эффектом, перенаправив средства на какой-нибудь выгодный всем сторонам проект.

Стратегический вопрос о том, куда вкладывать ресурсы для продвижения своих ценностей в любой момент времени, представляет собой дилемму заключенного по отношению к другим системам ценностей, и поскольку мы снова и снова делаем выбор о том, куда вкладывать средства, какую позицию занять и какие меры продвигать, эти дилеммы заключенного повторяются. В соревнованиях Роберта Аксельрода по повторяющейся дилемме заключенного лучшие стратегии всегда были “славными”, т. е. не предавали первыми². Таким образом, уменьшители страданий не должны первыми предавать колонизаторов космоса. Конечно, если похоже, что колонизаторы космоса не проявляют никаких подвижек в сторону уменьшения страданий, то мы должны быть еще и “спровоцированы” на временное предательство, пока другая сторона не начнет признавать то, что нас волнует.

Мы, нервно относящиеся к колонизации космоса, много выиграем от союза с ее сторонниками — в плане размышлений о том, какие сценарии могут произойти и как направить будущее в лучших направлениях. Мы также хотим остаться друзьями, потому что это значит, что сторонники колонизации будут более серьезно относиться к нашим идеям. Даже если колонизация космоса произойдет, останется много подвопросов, по которым уменьшители страданий захотят высказаться: например, против распространения дикой природы, против создания страдающих симуляций/подпрограмм и т. д.

Мы хотим быть уверены, что уменьшители страданий не станут презираемой группой. Например, подумайте о том, что евгеника более табуирована из-за зверств нацистов, чем если бы их не было. Людей, выступающих против технологий, иногда очерняют из-за ассоциации с Унабомбером. Защитники животных могут быть запятнаны жестокой тактикой нескольких активистов или даже выходками PETA. Мы должны быть осторожны, чтобы не произошло чего-то подобного в отношении уменьшения страданий. Большинство людей и так уже сильно озабочены предотвращением страданий, и мы не хотим, чтобы люди начали говорить: “О, вы заботитесь о предотвращении вреда беспомощным существам? Вы что, один из этих уменьшителей страданий?”, где “уменьшители страданий” стали уже настолько плохим ярлыком, что вызывают автоматическую ненависть.

Так что сотрудничество со сторонниками колонизации не только более многообещающий вариант, но и, возможно, единственный положительный вариант для нас. Занимая более конфронтационную позицию, мы рискуем ожесточить противостояние и отвратить людей от нашего послания. Помните, что предотвращение будущих страданий — это то, что волнует всех, и мы не должны разрушать этот факт чрезмерным антагонизмом.

Примечания переводчика: