Задача согласования ИИ может быть грубо определена как задача сделать так, чтобы мощный искусственный интеллект делал то, что мы — люди — хотим, чтобы он делал. Магнус Виндинг считает, что эта задача плохо определена и (по меньшей мере в указанном смысле) ее нельзя решить. В этом эссе он указывает на две проблемы: непреодолимые ценностные разногласия между людьми и недоопределенность предпочтений любого отдельно взятого человека.