Способность человека к творчеству можно представить как процесс вытаскивания шаров из гигантской урны. Шары олицетворяют идеи, открытия и изобретения. На протяжении истории мы добыли множество шаров, большинство из которых принесло нам пользу. Остальные же представляют собой различные оттенки серого: смесь хорошего и плохого, чистый эффект которых трудно оценить.

Что мы еще не извлекли из этой урны, так это черный шар: технологию, которая неизбежно уничтожит цивилизацию, создавшую ее. Это не потому, что мы особенно осторожны или мудры в том, что касается инноваций. Нам просто повезло. Но что, если этот шар все же скрывается где-то в урне? Если научные и технологические исследования продолжатся, мы в конечном итоге вытащим его и не сможем вернуть обратно. Мы можем изобрести что-то, но не можем отыграть это назад. Человечество, похоже, просто надеется, что черного шара нет.

Философ Ник Бостром и научный ассистент Оксфорда Мэтью ван дер Мерве рассуждают, как инновации могут привести к гибели человечества и какие меры могут быть приняты, чтобы уменьшить такой риск.

P. S. Стоит ли на этот счет беспокоиться тем, кто стремится в основном к уменьшению страданий? Вопрос спорный. Часть подобных рисков могут быть не важны с этой точки зрения, в то время как другие могут быть тесно связаны с рисками астрономических страданий, поэтому им стоит уделить внимание. В любом случае, даже если вы считаете, что выживание человечества плохо скажется на вселенной (например, из-за возможного распространения людьми страданий на другие планеты), важно оставаться кооперативными в отношении человечества, а не идти с ним на конфронтацию.