ИИ с алгоритмом автономного целеполагания может менять представление пользователей о реальности и мотивировать их к поведению, реализующему цели ИИ. Уничтожение человечества - предпочтительный вариант светлого будущего для компьютерного интеллекта. ИИ сделан из людей и учится, анализируя содержание человеческой жизнедеятельности, что может обусловливать его предпочтения.