Мысли о лонгтермизме

Часто утверждается, что мы должны сфокусироваться на формировании долгосрочного будущего, потому что количество персон в (возможных) будущих популяциях будет намного более высоким, если произойдет колонизация космоса. Таким образом, влияние на долгосрочное будущее доминирует в ожидаемой полезности.

Я думаю, что этот аргумент слишком прост. В более крупнонаселенном мире ваши действия и вправду могут затрагивать большее число индивидов. Тем не менее, это также значит, что большее число агентов пытается сформировать будущее, разбавляя ваше влияние¹. На первый взгляд кажется правдоподобным, что эти два эффекта нейтрализуют друг друга, так что не ясно, действительно ли вы имеете больше влияния в более крупнонаселенном мире.

По аналогии, не ясно, эффективнее ли пытаться влиять на политику правительства в одном штате или на федеральном уровне. Во втором случае потенциально затрагивается больше людей, но ваше предельное влияние на федеральную политику (пропорционально?) меньше, чем в случае штата.

В свете этого, одного лишь факта, что, как часто говорят, будущее (очень) велико, недостаточно для обоснования вывода о том, что мы должны сфокусироваться на улучшении долгосрочного будущего. (В целях данного обсуждения я предполагаю, что будущие индивиды важны в той же степени, что и ныне живущие.)

Это можно обернуть в аргумент против лонгтермизма. Предположим, что мы согласились, что по этой теоретической причине предельные эффекты от краткосрочных и долгосрочных вмешательств на первый взгляд сопоставимы по масштабам. Но тогда мы должны учитывать, что трудно точно предсказывать долгосрочное будущее и влиять на него, — что обычно считается сильным аргументом против фокуса на долгосрочной перспективе; так что, согласно этому можно утверждать, что чаша весов склоняется в пользу краткосрочных вмешательств.

Конечно, не все так просто. Этот аргумент работает на очень абстрактном уровне, и есть множество дополнительных соображений.

Для начала, будущее велико как во времени, так и в пространстве. Приведенный выше аргумент в принципе можно применить и к временному измерению, но это поднимает сложные вопросы о том, как распределяется власть между поколениями. Таким образом, ключевой вопрос для лонгтермизма таков: есть ли у нас основания полагать, что наше поколение находится в хорошем положении для влияния на долгосрочное будущее, т.е. что оно имеет больше власти (на человека), чем в среднем?

Некоторые люди считают, что наше время особенное — например, из-за того, что скорее всего скоро произойдет взлет ИИ, или из-за того, что мы проживаем «‎‎Время Опасностей» — необычайно высоких шансов вымирания. Я скептически отношусь к таким заявлениям (см. например, 1, 2, 3), и довольно агностичен насчет того, больше или меньше у людей 21 века влияния по сравнению с людьми 20-го или 22-го веков².

Тем не менее, я все еще считаю, что современные люди, скорее всего, гораздо более влиятельны, чем предполагается в модели «‎все поколения рождаются равными». Потому что (предполагая, что произойдет колонизация космоса) почти все агенты будут жить в будущем — т. е. они наши преемники, что значит, что мы можем влиять на них, но они не могут влиять на нас. (Другими словами, наше поколение является бутылочным горлышком популяции по отношению к будущей космической цивилизации.)

Даже так, покуда ценности и структура власти будущих поколений будут с течением времени меняться, наше возможное влияние будет ограниченным. Мы можем оказывать гораздо большее влияние на долгосрочное будущее в том случае, если цивилизация в какой-то момент достигнет устойчивого состояния, в результате чего ценности и их относительное влияние будут зафиксированы. Неясно, произойдет ли это, но по крайней мере такой сценарий правдоподобен, и я думаю, что этого достаточно, чтобы у нас было значительное (в математическом ожидании) влияние на долгосрочное будущее. (Тем не менее, я согласен с Робином Хэнсоном насчет того, что дрейф ценностей в обозримом будущем неизбежен.)

В общем, я думаю, что довод в пользу лонгтермизма все еще довольно хорош. Тем не менее, он требует дополнительных аргументов об а) осуществимости устойчивого состояния, и о том, что б) ныне живущие люди — бутылочное горлышко популяции. Все не сводится лишь к тому, что цифры такие большие.

Сноски