Аннотация

Те, кто считает, что придуманный Урсулой К. Ле Гуин город Омелас не должен существовать, должны также пересмотреть свою поддержку постчеловеческой колонизации космоса. На самом деле сценарий Омеласа даже намного лучше, чем почти любой реальный исход, который мы можем ожидать. Поэтому даже те, кто приветствует Омелас, должны проявлять осторожность в том, наступление каких вариантов будущего они приближают.

Содержание

Введение

«Уходящие из Омеласа» (1973) Урсулы К. Ле Гуин — это классическая философская притча в защиту эгалитарных интуиций. Она описывает рай, полный радости и праздников, и существующий при условии, что один ребенок должен страдать в одиночестве, запертый в темной комнате.

Из текста:

[Ребенок] такой худой, что у него нет икр на ногах; живот выпячен; он питается половиной миски кукурузной муки и жира в день. Он голый. Его ягодицы и бедра представляют собой массу гноящихся язв, так как он постоянно сидит в собственных экскрементах.

Они все знают, что он там, все жители Омеласа. […] Они все знают, что он должен быть там. Кто-то из них понимает почему, кто-то нет, но все они понимают, что их счастье, красота их города, нежность их дружбы, здоровье их детей, мудрость их ученых, мастерство их мастеров, даже изобилие их урожая и благосклонность погоды их небес, полностью зависят от отвратительных страданий этого ребенка.

Интерпретации

Впервые услышав о таком городе, многие читатели находят его устройство отвратительным. Поразмыслив еще, они могут решить, что такое положение дел не так уж и плохо, как кажется, потому что чрезмерно заботиться о страдающем ребенке — значит быть нечувствительным к масштабам всей той радости, которую испытывают другие жители города. Такой была моя собственная реакция, когда я прочел этот рассказ в 2006 году.

Те, кто действительно утверждает, что устройство Омеласа неправильно, могут думать так по эгалитарным соображениям: несправедливо, когда один ребенок страдает ради остальных, но было бы справедливо, если бы каждый должен был немного пострадать ради своей собственной большей радости.

Последняя интерпретация состоит в том, чтобы посмотреть на это с негативно-утилитарной точки зрения, согласно которой никакое количество рая не может перевесить чье-то унизительное страдание. Хотя Тоби Орд правильно указывает, что неразумно смешивать негативно-утилитарные интуиции с другими, такими как эгалитаризм. Лично я склоняюсь к негативному утилитаризму, не считая важным эгалитаризм.

Колонизация космоса

Независимо от того, по какой причине человек мог бы счесть Омелас отвратительным, — если это так, то это имеет важные последствия для его взглядов на колонизацию космоса. Мечта многих участников движения по снижению риска вымирания — заполнить световой конус будущего человечества постчеловеческим раем. Как пишет Ник Бостром в «Письме из Утопии»:

Мы любим жизнь здесь каждое мгновение. Каждая секунда настолько хороша, что взорвала бы нам мозги, если бы их сила тока не была предварительно увеличена. Я и мои современники свидетельствуем об этом и просим вас о помощи. Пожалуйста, помогите нам появиться на свет! Пожалуйста, присоединяйтесь к нам! Станет ли эта грандиозная возможность реальностью, зависит от ваших действий. Если ваша эмпатия способна воспринять хотя бы очертания того видения, которое я описываю, то ваша изобретательность найдет способ воплотить его в жизнь.

Суровая правда состоит в том, что колонизация космоса сопряжена с риском. Более высокая вычислительная мощность подразумевает и более высокую способность порождать астрономические количества страданий. Хоть нам и следует пытаться уменьшить риск наполненных страданиями вариантов будущего, мы никогда не сможем снизить вероятность антиутопических исходов в достаточной степени. Скорее всего, колонизация космоса увеличит ожидаемое количество страданий, а не уменьшит его.

'A juvenile Red-tailed Hawk Buteo jamaicensis eating its prey (California Meadow Vole Microtus californicus); seaside bluffs of Half Moon Bay, California.' Image by Steve Jurvetson. (from https://en.wikipedia.org/wiki/File:Hawk_eating_prey.jpg) This file is licensed under the Creative Commons Attribution 2.0 Generic license.

Таким образом, космическая колонизация — это своего рода Омелас, а усилия по обеспечению продвижения человечества в космос — это усилия по обеспечению будущего Омеласа. На самом деле, это сравнение слишком щедро к космической колонизации, потому что на практике ожидаемое соотношение страданий и счастья в постчеловеческом будущем намного выше того, что изображено в рассказе Ле Гуин. Есть нетривиальный шанс, что в будущем в результате колонизации будет больше страданий, чем счастья.

Другими словами, даже сторонники Омеласа должны как минимум сомневаться в качестве будущего, которое они стремятся принести. Противники же Омеласа, если они сейчас работают над обеспечением распространения человечества, возможно, хотели бы пересмотреть свое решение.

Можно возразить, что в случае с колонизацией ожидаемые нами страдания носят вероятностный характер. Теоретически возможно, что постчеловеческая цивилизация сможет устранить все страдания в пределах своей досягаемости. Если у нас не получится этого сделать, это будет случайностью. Это правда, но помните, что жители Омеласа тоже не хотят, чтобы ребенок страдал; подобно тому, как вероятность массовых страданий при колонизации космоса никуда не исчезает, жители Омеласа просто не в состоянии избежать страданий ребенка, если хотят жить в раю.

Страдание не нивелируется утопией

Случаев экстремального страдания в мире так много, что иногда они сливаются в одно абстрактное пятно. Чтобы избежать отупления статистикой, может быть полезно рассмотреть один единственный случай жестокости. Хотя мы должны понимать, что ситуация в нашем мире намного хуже, чем страдания одного человека.

Возьмем такой случай: “Турецкая девушка 16 лет похоронена заживо ‘за разговоры с мальчиками’”.

Турецкая полиция обнаружила тело 16-летней девушки, которая, по их словам, была похоронена заживо родственниками в результате убийства “чести”, совершенного в наказание за общение с мальчиками.

Девушка, которую опознали только по инициалам М.М., была найдена сидящей со связанными руками в двухметровой яме, выкопанной под курятником возле ее дома в Кахте, в юго-восточной провинции Адияман. […]

По сообщениям СМИ, отец сказал родственникам, что недоволен тем, что у его дочери — одной из девяти его детей — есть друзья мужского пола. Говорят, что дедушка бил ее за отношения с противоположным полом.

Вскрытие показало большое количество земли в ее легких и желудке, что указывает на то, что она была жива и находилась в сознании, когда ее хоронили.

Представьте себя на месте этой девушки, пытающейся вылезти из грязи. Когда вы дышите, грязь заполняет ваш нос и рот. Вы кашляете и задыхаетесь. Становится трудно набрать достаточно воздуха. Вы пытаетесь протиснуться дальше, но грязь слишком сильна, чтобы сдвинуться с места. Еще один глубокий вдох, но и этого недостаточно. Через некоторое время вы чувствуете жжение углекислого газа в крови. Ваше сердце бешено колотится, а разум кричит. Вы пытаетесь вдохнуть еще раз. Задыхаетесь, кашляете. Углекислый газ жжет как нож по всему телу. Он режет сильнее и сильнее; кажется, что хуже уже и быть не может, но становится еще хуже. И… остальное слишком болезненно, чтобы представить.

Это переживание неизменно ужасно; оно не компенсируется другими людьми-в-моменты, получающими удовольствие (см. Приложение).

Вы можете сказать: «Хорошо, но как это связано с колонизацией космоса? Колонизаторы не хоронят людей заживо». Нет, но, астрономически увеличивая количество сознаний в будущем, колонизаторы открывают двери и огромному количеству тех, кто испытает по меньшей мере такой же ужасный (а возможно, и гораздо худший) опыт. Риск уродливого постчеловеческого будущего нетривиален, и даже во многих гуманных сценариях будущего небезосновательно ожидать астрономически большего количества «погребений заживо» и их эквивалентов, чем мы уже имеем сегодня на Земле. Если вы не станете причинять кому-то сильные страдания ради появления на свет новых счастливых людей, зачем вам создавать условия для того, чтобы природные и социальные силы сделали это от вашего имени?

Страдание диких животных

Кристофер Белшоу утверждает, что для диких животных плохо то, что они существуют, потому что удовольствие не может перевесить боль в разные моменты жизни животного. Предполагая, что у большинства животных нет психологического единства идентичности, которое есть у человека, Белшоу утверждает, что животное, страдающее в одно время, представляет собой другой организм-в-момент, нежели животное, страдающее в другое время, и удовольствие одного не может оправдать страдания другого.

Я не согласен со многими предпосылками Белшоу, и его взгляды на умственные способности животных, по крайней мере, не относятся к очевидно верным. Но я согласен с особым настроением, выраженным в следующей цитате:

Никакое количество нынешнего или будущего удовольствия не может оправдать причинение или допущение будущей боли.

Очень многих животных впереди ждет боль, и в немалых количествах. Они будут страдать от болезней, или от хищников, или попадут в ловушки, или будут убиты, но не сразу, на дорогах, или возраст сделает их менее способными заботиться о себе, кормить и содержать себя. И никто другой, ни мы, ни другие животные, не поможет. […] для них было бы лучше, если бы они не существовали. Лучше всего, если они никогда не появятся на свет. Второй лучший вариант — если они умрут безболезненной смертью, — не как можно скорее, но до того, как в следующий раз испытают боль.

Теодицея процесса

Теология процесса описывает ограниченно могущественного Бога, который пытается направить будущее в лучшее русло, но не имеет полного контроля над вселенной. В каком-то смысле человечество является таким Богом по отношению к далекому будущему.

Учитывая зло в нынешнем мире, похоже, что Бог в богословии процесса не уходит от Омеласа, но верит, что хорошие вещи в жизни, переживаемые одними, оправдывают зло, переживаемое другими:

Эволюция вселенной в целом и жизни на этой планете обусловлена постоянным божественным импульсом к максимизации гармонии и интенсивности в каждом настоящем случае, в то же время создавая новые возможности для еще большей гармонии и интенсивности в будущем; и этот божественный импульс оправдан на том основании, что добро, которое было произведено и еще будет произведено, перевешивает и оправдывает зло, которое было произведено и которое еще будет произведено. Ведь Бог мог бы оставить первозданный хаос непотревоженным, вместо того чтобы сформировать его в упорядоченную вселенную, развивающую все более высокие формы действительности. Поэтому Бог несет ответственность за то, что Он начал и продолжил развитие конечного царства из неупорядоченного хаоса ко все большим возможностям как добра, так и зла.

Дэвид Рэй Гриффин в книге «God, Power, and Evil: A Process Theodicy» (стр. 300) предполагает, что «Бог несет ответственность в том смысле, что он подтолкнул творение к тем состояниям, в которых чувства противоречия могут ощущаться с большой интенсивностью». То же самое верно и для тех, кто подталкивает человечество к развитию общего искусственного интеллекта и колонизации космоса — разработкам, которые позволят усилить интенсивность как хороших, так и плохих переживаний.

Джон Х. Хик выражает сомнения в отношении моральности такого рода обмена:

Бог действительно может, как предполагает Гриффин, найти совокупное зрелище человеческой жизни на протяжении веков в итоге хорошим; ведь в общем божественном опыте страдания тех, кто страдает, и недостатки тех, чей человеческий потенциал остался неразвитым, уравновешиваются счастьем и достижениями удачливых. Однако вряд ли можно ожидать, что голодающие и угнетенные, жертвы Освенцима, человеческие обломки с непоправимыми повреждениями мозга или разума, а также те, кто любил их и мучился из-за них, разделят точку зрения Бога процесса или сочтут такого Бога достойным своего поклонения и восхваления.

Хотят ли большинство людей появления общего искусственного интеллекта?

У меня сложилось впечатление, что большинство людей в мире (может быть, около ~90%?) не имеют твердого мнения о том, разработает ли человечество в конечном итоге искусственный интеллект общего назначения (AGI — artificial general intelligence). Многие противники технологий могут даже предпочесть, чтобы люди не приводили мир в эпоху трансгуманизма. Кроме того, почти все люди также не хотели бы, чтобы мир был уничтожен. Это сочетание предположений наводит меня на мысль, что если бы было возможно остановить технологический прогресс в направлении AGI, большинство людей, вероятно, предпочли бы сделать это, если бы осознали, что AGI представляет значительный риск для выживания человечества. Без AGI мы бы упустили некоторые достижения в медицине и другие технологии, улучшающие жизнь, но я полагаю, что большинство людей смирились бы с этой потерей, чтобы их внуки не были убиты или, по крайней мере, чтобы они не были навсегда вытеснены машинами. Без AGI люди также, вероятно, не смогут жить вечно, но большинство людей в любом случае не так уж сильно заботятся о (нерелигиозном) бессмертии. Другими словами, вполне вероятно, что большинство людей было бы довольно и им было бы даже лучше в мире, где человечество не продолжало бы технологический прогресс в сфере AGI. А без AGI создание непотребных объемов вычислительных мощностей (и, следовательно, страданий) по всему космосу, вероятно, было бы невозможно.

Проблема состоит в том, что, похоже, не существует приемлемого способа предотвратить долгосрочный технологический прогресс. Что катастрофический коллапс общества, что мировое правительство, запрещающее технологии, — антиутопические сценарии в глазах большинства людей. А в отсутствие любого из этих событий я не вижу, как AGI и колонизация космоса могут быть предотвращены (если только они не являются технически недостижимыми по какой-то причине). Даже если возможно создание дружественного и не-тиранического мирового правительства, предотвращающего AGI, оно, наверное, в конечном итоге рухнет или будет свергнуто, так что AGI не удастся предотвратить навсегда. Технофильские ценности «прогресса любой ценой» среди людей редки, но постчеловеческое будущее, наверное, рано или поздно наступит, нравится нам это или нет.

Эти рассуждения были вдохновлены комментарием Скотта Элиотта.

Благодарности

Спасибо Адриано Маннино за вдохновение для раздела этой статьи.

Связанная литература

Приложение: Зачем фокусироваться на страдании?

Недавно один друг спросил меня, почему я фокусирую свои усилия на уменьшении страданий, а не на создании счастья. Причина в том, что я считаю сильные страдания ужасными до такой степени, с которой не может сравниться счастье. Несуществование — это не плохо. Оно абсолютно нормально для всех, потому что это состояние отсутствия страданий. Пытки напротив — ужасны, и их следует предотвращать по мере возможности. Конечно, отсутствие радости в жизни человека — это плохо, но это так потому, что это форма страдания, а не потому, что это отсутствие радости как таковой. Нет никакой моральной необходимости в создании новых людей, испытывающих радость, особенно если это происходит ценой создания новых страданий.

В качестве интуитивной подкачки рассмотрите 1,4 миллиона свиней, заживо погребенных в Южной Корее в 2011 году; вы можете послушать их крики в этом видео. Теперь спросите себя, должны ли мы использовать наши ресурсы для (а) предотвращения подобных страданий в будущем или для (б) создания новых людей, живущих счастливой жизнью, чтобы “компенсировать” страдания. Еще более наглядно: что если бы вам самим пришлось заживо похоронить свиней, чтобы создать новых счастливых людей? Стали бы вы это делать? С точки зрения результатов, это такое же решение, как и выбор вкладывать ресурсы в (б) вместо (а).

Счастье хорошо, потому что это форма не-страдания. Медитативное спокойствие хорошо по той же причине. Также и несуществование. Буддисты верили в реинкарнацию и поэтому не понимали, что можно уменьшить страдания, просто не создавая новые организмы; на самом деле самый простой способ разорвать цикл рождения и смерти — это не рожать. Применительно к сценариям постчеловеческой колонизации это значит не создавать астрономическое количество дополнительных сознаний, которые подвергаются неизбежному риску ужасных страданий.

С 2013 года я перешел к точке зрения, согласно которой счастье и жизнь вообще не имеют внутренней ценности. (Конечно, они могут иметь значительную инструментальную ценность для уменьшения страданий в каких-то случаях.) Это не депрессивная точка зрения: я полагаю, что я счастливее большинства людей и склонен просыпаться с нетерпением встречая новый день. Это просто ощущение, что счастье, хоть оно и приятно, не имеет морального значения. Только страдание имеет моральное значение. Как сказали бы буддисты, цель состоит в том, чтобы отпустить земное существование и избежать сансары. (Мои взгляды на этот вопрос меняются со временем. По состоянию на 2022 год я снова считаю, что счастье имеет небольшую внутреннюю ценность, но даже огромное количество интенсивного счастья не может конкурировать с экстремальными страданиями с точки зрения моральных приоритетов.) Тем не менее, я в некоторой степени придаю внутреннюю ценность тому, что волнует других людей, поэтому косвенно я могу немного ценить жизнь и счастье. Не потому, что могу интуитивно понять, почему кто-то предпочитает их несуществованию, а просто потому, что хочу быть добрым с другими людьми, у которых есть свои предпочтения. В любом случае, подавляющая важность уменьшения страданий несущественно зависит от взглядов человека на то, насколько ценны счастье или жизнь. Просто будучи порядочными людьми, мы понимаем, что должны помочь тем, кто в несчастен, прежде чем создавать новые удовольствия или формы жизни.