Большинство благотворительных организаций, занимающихся облегчением страданий, сфокусированы на персонах, живущих в наше время — например, на людях, страдающих от бедности или болезней, или на животных-компаньонах, нуждающихся в убежище. Некоторые помогают тем, кто будет существовать в ближайшем будущем — например, животным, которые будут выращены в следующем году, если не будет сокращено потребление продуктов животного происхождения. Другие помогают тем, кто будет жить несколько позже: организации, сфокусированные на решении проблем изменения климата, например, обычно работают на благо людей будущих поколений. Хотя мы можем быть инстинктивно вынуждены помогать тем, чьи страдания мы способны сразу же увидеть или четко визуализировать, пренебрежение к тем, кто еще не родился, но на ком тоже скажутся наши действия — выглядит столь же ошибочным, как и пренебрежение к тем, кто живет на далеком расстоянии от нас. Каждая персона в пределах досягаемости нашего влияния должна нами учитываться, независимо от того, живет ли она одновременно с нами или нет.
Число персон, которые живут в настоящем времени и тех, что будут жить в предстоящие десятилетия, значительно меньше числа тех, кто будет жить в предстоящих столетиях, тысячелетиях и т. д. Это значит, что хотя последствия нашего влияния на отдаленное будущее менее предсказуемы, чем краткосрочные последствия наших действий, они могут оказаться на порядки более значительными.
Важность развивающихся технологий
Если технический прогресс будет идти так же быстро, как и в последние несколько столетий, будущие поколения будут иметь столь мощные технологии, что они могут быть настолько же непонятными для нас сейчас, какими были бы сотовые телефоны для людей, живших до изобретения телефона.
Говоря о страданиях, которые могут произойти в далеком будущем, мы в основном имеем в виду те страдания, что могут быть вызваны безответственным использованием технологий. Например, если мы разработаем технологию геоинженерии других планет, мы можем распространить дикую природу земного типа в эти миры, не заботясь о страданиях, которым подвергнутся животные. Если мы колонизируем другие миры прежде, чем достигнем существенного социального и политического прогресса здесь, на Земле, то мы можем умножить те проблемы и страдания, которые у нас уже есть. (В частности, для начала нам следовало бы разработать подходящий фреймворк для управления космосом.)
Люди могут разработать способы принудить еще большее число сентиентных существ к неволе, чем уже делают сейчас в потогонных цехах, сетях торговли людьми и на фабричных фермах. Достижения в области искусственного интеллекта могут в конечном итоге привести к развитию (не биологических) сентиентных цифровых умов, а возможность производить огромное количество таких существ в сочетании с ожидаемой трудностью нашего сопереживания им может привести к их эксплутатации в огромных масштабах. Это было бы подобно тому, как сейчас мы эксплуатируем нечеловеческих животных, но масштаб такого сценария мог бы оказаться значительно большим.
Или люди могли бы создать искусственный интеллект, превосходящий их собственные интеллектуальные способности. Если такой искусственный интеллект разовьет неправильные ценности, это может экспоненциально увеличить количество страданий в мире. Например, если бы такой ИИ пренебрежительно относился к другим в процессе достижения своих целей, он мог бы так эксплуатировать животных или людей, что им причинялись бы огромные страдания, или даже мог бы создавать свои собственные страдающие подпрограммы, помогающие ему в достижении его целей. А колонизировав другие планеты, он мог бы многократно умножить эти страдания.
Такие сценарии могут показаться маловероятными, и некоторые могут подумать, что это веское основание, чтобы их отбросить. Но то, что звучало как научная фантастика несколько десятилетий назад, может быстро стать реальностью. Аэрокосмическая компания Space X уже объявила о плане создания колонии на Марсе в начале 2024 года, а недавнее развитие глубокого обучения дало машинам возможность учиться так, как учатся люди, что значит, что ИИ на несколько шагов ближе к человеческому интеллекту, чем был два года назад.
Прогнозирование будущих достижений в технологиях — сложная задача, но анализируя возможные сценарии мы можем получить ценную информацию, которая поможет нам предотвратить риски астрономических страданий (”s-риски”). Как показывает история, развитие новых технологий может наделить человечество беспрецедентной силой для изменения мира к лучшему, но они также несут беспрецедентные риски. Мы должны иметь это в виду, даже если думаем, что тот или иной конкретный риск астрономических страданий звучит маловероятным. Обеспечение того, чтобы мощные технологии использовались ответственным образом, будет иметь решающее значение для предотвращения появления вещей еще худших, чем химические войны, фабричные фермы или ядерное оружие. Для этого от тех, кто контролирует подобные технологии, требуется забота о страданиях каждого, на кого они могут повлиять.
Как мы можем уменьшить риски астрономических страданий?
Даже в отсутствии узких прогнозов о технологическом, социальном и политическом ландшафте будущего, есть подходы, которые могут помочь предотвратить особенно ужасные исходы будущего.
Один из таких подходов — разработка и внедрение мер предосторожности. Например, компании, работающие над ИИ, могли бы разработать соглашения о том, как действовать, если покажется, что искусственный интеллект имеет признаки сентиентности. Независимые органы могли бы контролировать разработки ИИ, чтобы убедиться, что ИИ разрабатывается с целями, которые с большей вероятностью приведут к хорошим, а не к плохим последствиям. Страны, обладающие оружием массового уничтожения, уже заключили соглашения, регулирующие его распространение, и мы могли бы добиться аналогичных соглашений, регулирующих разработку новых мощных технологий, таких как сверхинтеллектуальный ИИ, чтобы поощрять их безопасное, а не поспешное создание.
Мы также можем показывать пример и распространять озабоченность страданиями независимо от того, кто их испытывает — независимо от их местоположения, времени, вида, пола, субстрата или любой другой не связанной со страданием характеристики, — чтобы уменьшить вероятность страданий массового масштаба, которые в будущем могут произойти из-за пренебрежения этим вопросом. Сегодня такое пренебрежение остается причиной страданий многих людей и еще большего числа нечеловеческих существ, и мы наблюдали различные степени дискриминационных эксплуатации, насилия и безразличия на протяжении всей истории человеческой цивилизации. Было бы неразумно предполагать, что такое неравенство просто исчезнет из общества без согласованных усилий по его устранению. Повышенная забота о страданиях всех сентиентных существ увеличит вероятность того, что будущие поколения будут ответственно использовать свою силу, даже если мы не знаем точной природы их силы. В частности, успешное продвижение антиспесишизма — активное уменьшение видовой дискриминации — должно привести к предотвращению страданий, которые в противном случае испытали бы в будущем многие животные. Мы также могли бы работать над предотвращением возможности будущих цифровых страданий, распространяя обеспокоенность насчет цифровой сентиентности и поощряя вовлеченность людей в решение этических вопросов, которые породило бы ее появление, сейчас, чтобы мы были готовы серьезно отнестись к потребностям искусственных сентиентных существ, если они появятся.
Меры, направленные на краткосрочные или среднесрочные изменения, тоже могут косвенно повлиять на отдаленное будущее в той или иной степени. Работа, направленная конкретно на помощь сельскохозяйственным животным, может уменьшить видовую дискриминацию и тем самым повысить нашу озабоченность проблемами диких животных или других сентиентных существ. Достижение базовых прав на жизнь, физическую и психическую неприкосновенность для отдельных нечеловеческих животных создаст правовые и социальные прецеденты, которые помогут нам расширить эту защиту и на других животных, в конечном итоге помогая гораздо большему числу существ.
Наконец, мы можем исследовать эти и другие стратегии предотвращения страданий в далеком будущем.
Выводы
Будущие персоны имеют не меньшее значение, чем уже существующие, и, вероятно, их число будет на несколько порядков превосходить число существующих. Поэтому если мы нацелимся на будущее за пределами следующего года, десятилетия или даже жизни нескольких поколений, наши действия могут иметь большее влияние, чем если мы сфокусируемся на краткосрочных целях, хотя эффект от наших действий будет менее ясным.
Развивающиеся технологии могут обеспечить людей огромной силой, но мы не можем предполагать, что такая новая сила обязательно будет использоваться ответственным образом. Так что для уменьшения рисков потенциально астрономических будущих страданий мы должны быть осторожны с технологиями, способными изменить траекторию будущего, и с эволюцией ценностей нашего общества.
Эта статья входит в серию статей, ранее публиковавшихся на Sentience Politics: