Будущий технический прогресс НЕ коррелирует с подходами, требующими меньше страданий

Аннотация: Предполагаемая неизбежная сходимость между эффективностью и подходами, которые требуют меньше страданий — это один из основных знакомых мне аргументов в пользу того, что ожидаемая ценность будущего человечества положительна. И я считаю этот аргумент несостоятельным. Хотя, к счастью, рост эффективности до сих пор сходился с уменьшением биологических страданий, — похоже, что это обусловлено физическими ограничениями людей и других животных, а не их страданиями как таковыми. И хотя все пострадавшие существа прошлого и настоящего имели серьёзные физические ограничения, делавшие их «неэффективными», будущие формы сентиентности скорее всего полностью нивелируют эту тенденцию прошлого. Более того, будущие формы страданий могут оказаться даже инструментально полезными, а значит, «эффективными», что позволило бы нам прийти к противоположному выводу. Замечу, что цель этого поста — не утверждать, что технический прогресс плох, а лишь опровергнуть конкретное утверждение, которое, как мне кажется, просто неверно, несмотря на его популярность.

Аргумент в оригинале

Хотя я чаще всего сталкивался с этим аргументом в неформальных беседах, он был (на мой взгляд, довольно хорошо) сформулирован Беном Вестом (2017)¹: (выделение жирным моё)

Мы должны ожидать, что страдания будут оставаться в будущем лишь в том случае, если они позволяют людям быть более ленивыми [т. е. если они инструментально «эффективны»]. Самые эффективные решения задач, по-видимому, не требуют страданий. <…> Поэтому по мере развития технологий мы будем всё больше продвигаться к решениям, которые не требуют страданий.

Как и большинство людей, использующих этот аргумент, Вест иллюстрирует свою мысль двумя следующими примерами:

1. Промышленное животноводство существует, потому что самый простой способ получить вкусную еду, отвечающую различным общественным целям, — требует жестокости. Однако с ростом научного прогресса, по всей видимости, эффективнее будет производить пищу без какого-либо участия сознательного опыта животных (т. е. «чистое мясо»). Тогда ленивым решением окажется более этичное.
   • а. (Пожалуй, это произошло с домашними рабочими животными на фермах: сейчас у нас есть автомобили и грузовики, которые заменили лошадей и мулов, и даже само выражение «бить как арендованного мула» кажется ужасным.)
2. Рабство существует, потому что в настоящее время нет способа получать от людей труд без участия их сознательного опыта. Опять же, это обусловлено недостатком научных знаний: нет очевидной причины, по которой для вспашки поля или сбора какао требовался бы сознательный опыт, поэтому более эффективное решение — просто поручить эти задачи не обладающим сознание машинам.
   • a. (Пожалуй, это произошло с человеческим рабством в США: индустриализация привела к тому, что для достижения экономического успеха в значительной части США рабство уже не требовалось, и поэтому его запретили.)

Почему этот аргумент несостоятелен

Я предварительно согласен с утверждением «наиболее эффективные решения задач, по-видимому, не требуют страданий», если ограничиться настоящим и прошлым. Однако я считаю его неверным в контексте долгосрочной перспективы, что делает аргумент в целом несостоятельным.

Будущие решения задач более эффективны тогда, когда они преодолевают прежние ограничения. В соответствующих примерах, таких как рабство у людей и эксплуатация животных, сами страдания не являются ограничивающим фактором. Вместо этого ограничением являются физические возможности этих биологических существ по сравнению с машинами, которые могли бы лучше справляться с их задачами.

Я не вижу никакой неизбежной связи между их страданиями и этими физическими ограничениями. Если бы у людей-рабов и эксплуатируемых животных не было сознания, это не изменило бы того факта, что машины лучше справились бы с их задачами.

Факт того, что страдания до сих пор коррелировали с неэффективностью, кажется просто удачным совпадением, которое позволило отказаться от некоторых форм рабства и эксплуатации биологических сентиентных существ.

В случае возможных будущих форм страданий (например, цифровых страданий)² уже не кажется, что у них есть такая корреляция с неэффективностью. Поэтому нет совершенно никаких причин по умолчанию предполагать, что будущие технические подходы будут порождать меньше страданий.

К сожалению, на деле есть основания предполагать в точности обратное. Мы можем ожидать, что цифровая сентиентность и страдания будут инструментально полезными для многих видов деятельности и многих целей (см. Baumann 2022a; Baumann 2022b).

Сам Бен Вест признаёт это в комментарии к своему посту:

Чем полезнее оказывается сознание (и особенно страдание), тем менее разумным выглядит моё утверждение [о том, что наиболее эффективные решения задач не предполагают страданий].

Для справки, шесть лет спустя в комментарии к другому посту он написал также следующее:

Наибольшее изменение в моём мнении после написания поста [2017 года] <…> касается категории «отрицательной ценности, исходящей от эволюции»: в общем, я стал больше беспокоиться о том, что отрицательная ценность может быть инструментально полезной. Например, возможно, что наиболее эффективным максимизатором скрепок будет тот, который по-настоящему расстраивается из-за недостатка скрепок.

Хотя приведённый им пример кажется мне не очень убедительным (по сравнению с примерами в Baumann 2022a или других введениях в тему s-рисков), похоже, он согласен с тем, что мы можем ожидать некоторой «эффективности» страданий в будущем.

Должен также отметить, что в комментариях к его посту 2017 года несколько человек представили доводы, схожие с тем, что я привожу здесь (см., в частности, комментарий Вэй Дая).

Так что мой довод не нов, но я решил выделить его в отдельный пост, — особенно с учётом того, что после 2017 года, когда были написаны вышеупомянутые комментарии, люди продолжают делать сильные заявления на основе того ошибочного аргумента. (Я не ожидаю, что мой пост заставит всё сообщество эффективных альтруистов осознать несостоятельность аргумента и что его больше не будут применять. Но, на мой взгляд, стоит об этом высказаться.)

Я также хочу, чтобы читатели воспринимали данный текст не просто как критику поста Веста, а как:

• “развенчание” аргумента, который часто используют лонгтермисты, несмотря на его очевидную несостоятельность (если я не упустил ничего критически важного; пожалуйста, скажите, если по-вашему я что-то упустил!); и/или
• обоснование утверждения, сделанного в заголовке данного поста, или даже более сильного утверждения, — например, о том, что будущий технический прогресс отрицательно коррелирует с теми подходами, которые требуют меньше страданий.

Опять же, цель этого поста — не утверждать, что ценность будущего человечества отрицательна по указанной причине, а лишь показать, что доказательство обратного требует других аргументов. Потому что этот не выдерживает критики.

---