Что, если разработка всё новых форм искусственного интеллекта в итоге приведёт к созданию существ, способных страдать? На самом деле нет полной уверенности даже в том, что субъективные переживания отсутствуют у нынешних форм ИИ. При этом хорошее обращение с ИИ не гарантирует отсутствия страданий, потому что эти ИИ устроены совсем не так, как мы.

Раз мы толком не знаем, что происходит внутри ИИ, стоит ли продолжать разработки, рискуя породить астрономические страдания? Холли Элмор из PauseAI US считает, что нам следует остановиться.