Перспектива создания искусственного интеллекта (ИИ) умнее человека часто представляется и обдумывается через простую аналогию: ИИ будет по отношению к нам таким же, каковы мы по отношению к шимпанзе. Иными словами, ИИ будет в качественном смысле более компетентным и мощным, а его действия будут так же непостижимы для людей, как современные человеческие занятия (например, наука и политика) непостижимы для шимпанзе.

Моя цель в этом эссе — показать, что эта аналогия во многом неверна. Разница в понимании и технологической компетенции между современными людьми и шимпанзе — в важном смысле схожа с отличием нуля от единицы, и такой шаг в развитии не может быть повторен.