«Приоритизация направлений — это наиболее эффективное использование альтруистических ресурсов.» — Пол Кристиано.
Люди, желающие улучшить мир, как и все остальные, крайне предвзяты. Ярким примером является наша склонность работать над любым направлением, с которым мы до сих пор сталкивались, и предполагать без более глубокого изучения, что это направление — самое важное из всех. Однако с уверенностью предполагать этого нельзя.
Вот как может выглядеть типичный путь «обновления выбора направления»: мы обнаружили, что тысячи людей умирают каждый день из-за крайней нищеты, и решили, что это самая важная из проблем, над которыми стоит работать. Затем мы понимаем, что человечество каждый год мучает и убивает миллиарды нечеловеческих существ и что дискриминация этих существ не может быть оправдана, что может побудить нас сосредоточиться на прекращении этой моральной катастрофы. Затем нам рассказывают о страданиях диких животных, их огромных масштабах и о том, почему они игнорируются, и тогда мы можем начать работать (также и) над этим направлением. Затем нас убеждают аргументы об огромной важности далекого будущего и оно становится нашим главным приоритетом. И так далее.
Конечно, такое эволюционное развитие — это хорошо. Вопрос лишь в том, можем ли мы его оптимизировать. Можем ли мы провести этот процесс обновления более прямым и систематическим образом? В конце концов, претерпев постоянный процесс обновления, который заставил нас осознать, что мы ошибались насчет наиболее насущных направлений в прошлом и, возможно, даже совершенно не знали о них, кажется разумным предположить, что мы, вероятно, все еще ошибаемся во многом и сегодня. Мы должны быть готовы к тому, что направление, над которым мы сейчас работаем — на самом деле не самое важное из того, над чем мы могли бы работать.
Приоритизация направлений — это прямая и систематическая попытка получить более надежную информацию о том, каким направлениям нам нужно уделять больше всего внимания. И важность таких целенаправленных усилий должна быть очевидной: работа над направлением (или направлениями), в которых мы можем оказать наибольший эффект, очевидно, имеет огромное значение — это значит, что мы потенциально сможем помочь гораздо большему количеству сентиентных существ. А намеренный поиск такого направления или набора направлений выглядит значительно более эффективным, чем ожидание, что мы наткнемся на него случайно вслепую. Бросая вызов соблазну решать конкретные задачи, способствующие продвижению в зафиксированном ранее направлении, приоритизация направлений выходит на мета-уровень и ставит вопрос: прежде всего, исходя из наших ценностей, на каких направлениях сосредоточиться было бы важнее всего?
Я надеюсь изучить этот вопрос в будущих эссе. Я хочу представить приблизительную схему того, как мы можем размышлять о приоритизации направлений, и на основе этого попытаюсь указать на важные направления и вопросы, на которых, по моему мнению, нам нужно сосредоточиться и изучать их глубже.
