Теория хаоса, аттракторы и лонгтермизм

Обсуждения будущей траектории развития человечества часто фокусируются на контрастирующих сценариях-крайностях. Например, вымирание сравнивается с утопическим или антиутопическим будущим, а расширение по вселенной со скоростью света сравнивается с сохранением статуса-кво. Я думаю, что это чрезмерное упрощение и склонность игнорировать менее заметные возможности того, каким может оказаться будущее.

В этом посте я разработаю более сложный фреймворк для описания будущего развития человеческой цивилизации.

Для начала нам нужен способ описать состояние мира в любом заданном моменте. Это можно сделать разными способами, но наиболее актуальны следующие аспекты:

• Относительная сила разных систем ценностей. Мы опишем ее, используя вектор $p$, сумма координат которого равна 1.
• Уровень кооперации между разными системами ценностей (и агентами, которые их представляют): мы сведем ее к одному числу $c$, где значение 1 соответствует случаю, когда все субъекты стремятся к идеальному компромиссу, а 0 — случаю, когда каждый действует исключительно в собственных интересах. (Можно обобщить этот подход до многомерной модели, т. е. чтобы все релевантные аспекты взаимодействия разных действующих лиц/ценностей описывались одним вектором.)
• Общие технологические возможности цивилизации. Мы моделируем это с помощью скаляра $a$, где значение 1 соответствует состоянию, в котором каждая физически возможная технология доступна (или легко может быть получена), а 0 — состоянию, в котором нет никаких технологий. (Опять же, можно обобщить этот скаляр до вектора, который охватывает множество разных возможностей.)
• Общее состояние мира можно описать как $s = (p,c,a)$, или как $s(t) = (p(t), c(t), a(t))$, если рассматривать его как функцию от времени.
  
  

Итак, с течением времени состояние мира развивается в результате инноваций, смещения ценностей, смещения влияния и других динамик. Используем векторное поле¹ $f(s) = (f_p(s),f_c(s),f_a(s))$ для описания эволюции состояния мира. То есть, если состояние мира равно $s(t)$ в момент времени $t$, то $s(t+1) = s(t) + f(s(t))$.

Используя это, мы можем рассмотреть возможное асимптотическое поведение этой динамической системы:

• Аттрактор — это множество числовых значений, к которым система стремится развиваться при широком разнообразии начальных условий.
• Неподвижные точки (стационарные состояния системы) — самый простой и наиболее вероятный аттрактор². Ниже приведены возможные неподвижные точки:
  • Для любой системы ценностей возможной неподвижной точкой³ является единичный вектор $p$, где стоит 1 для этой системы ценностей и 0 для всех остальных. Это называется «синглтоном», и это значит, что вся власть принадлежит одной системе ценностей. В данном случае $c$ не имеет значения, тогда как параметр $a$ в принципе может быть любым числом от 0 до 1.
  • Вместо этого $p$ может быть некоторым неодноточечным распределением значений. Это часто называют «многополярным» исходом.
    • Случай $c = 1$ соответствует полностью кооперативному многополярному исходу. Во многих аспектах это эквивалентно синглтону с компромиссными ценностями.
    • При $c < 1$ результатом является устойчивый не вполне кооперативный многополярный исход.
  • В целом есть три варианта у параметра $a$:
    • $a = 0$ соответствует вымиранию — состоянию, в котором цивилизация не имеет никакой возможности влиять на Вселенную. В этом случае остальные параметры не важны.
    • Другой из крайностей является «технологическая зрелость», т. е. доступность любой возможной технологии.
    • Также цивилизация может достичь технологического плато на любом уровне между этими крайностями, то есть $0 < a < 1$, а затем застопориться на этом уровне.
  • В принципе, любое (ненулевое) значение $a$ может сочетаться с любым значением $c$ и $p$, и наоборот. То есть неподвижной точкой может быть технологически продвинутый некооперативный многополярный исход, или синглтон с низким уровнем технологических возможностей, или полностью кооперативный многополярный исход со средним уровнем технологических возможностей и так далее.
• Другая возможность — это сходимость к предельному циклу, при котором мир совершает периодические колебания.
  • Цикл может быть таким, что все параметры в нем варьируются, или таким, что $a$ и/или $c$ постоянны, а варьируются только другие параметры, или наоборот.
• Аттракторы могут быть и более сложными (см. странные аттракторы).
• Конечно, нет никакой гарантии сходимости к какому-либо аттрактору. Аттрактор — это то, к чему система сходится при множестве разных стартовых состояний (формально такое множество — бассейн притяжения). Но на деле есть только одно стартовое условие: мир такой, какой он есть. Он может и не находиться ни в одном из бассейнов притяжения.
  • Также возможно, что асимптотическое поведение системы похоже на логарифмическую функцию⁴ или что регулярности в нем вообще нет.
  • Возможно, одни параметры сходятся, а другие нет (или сходятся лишь на более позднем этапе).
    
    

Можно многое сказать о том, насколько вероятен каждый из этих исходов:

• Хотя более сложные аттракторы (предельные циклы или странные аттракторы) могут казаться математической странностью, я не знаю веских аргументов в пользу того, что развитие цивилизации не может к ним привести.
  • Параметр $а$ уникален тем, что он имеет тенденцию к увеличению, а не к уменьшению, за исключением возможности вымирания или катастрофы. Маловероятно, что $a$ будет двигаться вверх-вниз по циклу (или по более сложной фигуре), хотя прецедент имеется (см. «Темные века»).
  • Однако колебания не так уж неправдоподобны в случае ценностей.
• Когда мы размышляем о будущем, экстремальные исходы вроде такого будущего, в котором доступна любая физически возможная технология, сильно бросаются в глаза. Но я думаю, на деле вполне вероятно, что цивилизация застрянет в каком-нибудь локальном оптимуме. Это зависит от того, насколько сложно внедрять инновации и каковы соответствующие стимулы. (Однако можно делать ставку и на технологически развитое будущее.)
• Из некоторых предположений космологии следует, что вымирание в конце концов неизбежно (например, из-за тепловой смерти Вселенной). Однако, что важно для эффективных альтруистов — так это то, что будет происходить до вымирания.
• Трудно представить, как в обозримом будущем может произойти фиксация ценностей (сходимость к неподвижной точке). Возможно, для этого нужна радикально иная структура общества.
  • Можно было бы утверждать, что в космическом масштабе в миллионы или миллиарды лет цивилизация, скорее всего, окажется в аттракторе просто потому, что это состояние устойчиво, а постоянное случайное смещение (вне аттрактора) — нет.
  • Однако нет никакой гарантии сходимости. Ведь аналогичный аргумент можно выдвинуть и в отношении биологической эволюции: не следует ли нам ожидать, что распределение животных и растений будет сходиться к какому-то устойчивому равновесию (или циклу) вместо постоянного смещения? Прошли миллиарды лет, но мы такого не наблюдаем⁵. (См. «Will Future Civilization Eventually Achieve Goal Preservation?» Брайана Томасика)
  • Если цивилизация будет бесконечно или хотя бы очень долго смещаться, то, возможно, вымирание практически неизбежно, потому что в какой-то момент наступит опасное сочетание ценностей и технологических возможностей. Однако этот аргумент также слишком абстрактен. Вполне возможно, что риск вымирания, несмотря на продолжающееся смещение, со временем уменьшится.
    • Даже если этот аргумент верен, это не значит, что сейчас «Время опасностей» (то есть что риск вымирания в обозримом будущем высок).
    • С другой стороны, вымереть не так-то просто. Например, биологические риски или ядерная война вряд ли убьют вообще всех, если учесть отдаленные поселения, людей на подводных лодках, людей, находящихся в полете в момент катастрофы, людей на МКС и так далее.
      
      

Исходя из этого фреймворка, как мы можем оказывать долгосрочное альтруистическое воздействие на мир?

• Мы можем смоделировать наше воздействие как небольшое возмущение текущего состояния мира, которое со временем приводит к расходящимся волнам эффектов (в соответствии с функцией развития $f(s)$).
• В итоге это возмущение может привести к сходимости к другому аттрактору – как мы надеемся, лучшему по сравнению с тем, что было бы, если бы мы не вмешивались:
  • Если исходом является синглтон, то возмущение может изменить то, какие ценности победят.
  • В многополярных исходах может измениться распределение власти ($p$).
  • Возмущение может изменить то, придет ли цивилизация к однополярному или многополярному исходу.
  • Оно может увеличить или уменьшить $c$.
  • Оно может увеличить или уменьшить $a$.
    • Те из эффективных альтруистов, что ориентируются на позитивное будущее, склонны предпочитать более высокие значения $a$, в то время как уменьшатели страданий склонны предпочитать более низкие значения $a$, по крайней мере пока более высокое значение $a$ коррелирует с (намного) более крупными популяциями. (Это более общий случай расхождений альтруистов насчет вымирания.)
• Обратите внимание, что многие из этих возможностей подразумевают постепенные изменения, что противоречит обычному представлению об изменении траектории как о том, что приводит мир к совершенно иному исходу. В зависимости от функции развития $f$, небольшое возмущение может в дальнейшем привести и к большим изменениям, но в любом случае это неочевидно.
• Фиксация ценностей обычно ассоциируется с возможностями исключительно большого воздействия, но они не обязательно есть. Например, в случае постепенной сходимости к равновесию или компромиссу может не быть каких-то особо эффективных рычагов влияния или «фазовых переходов» в плане исхода. (Тем не менее, такая фиксация все же сделает наше влияние более предсказуемым по сравнению со сценарием бесконечного смещения.)
• Если цивилизация никогда не сходится ни к каким аттракторам, то описанный способ моделирования нашего воздействия неверен. Но все же возможно, что мы окажем долгосрочное влияние. В зависимости от $f$ небольшое возмущение может привести к а) меньшим, б) большим, в) таким же большим изменениям по прошествии большего времени.
  • На первый взгляд, в случаях б) и в) наше воздействие не меньше, чем в случае сходимости к аттрактору. Но в этих случаях сложнее оказать предсказуемо положительное влияние.

Сноски