Искусственный ты. Машинный интеллект и будущее нашего разума

Целями, которые называет Бостром, являются приобретение ресурсов, техническое совершенствование, когнитивное развитие, самосохранение и целостность целей (т. е. преследование будущим «я» сверхразумного существа тех же целей). Он подчеркивает, что самосохранение может быть групповым или индивидуальным и стоять на втором месте после сохранения представителей вида, для обслуживания которого искин был разработан.

Бостром не забывает подчеркнуть, что можно придумать огромное количество самых невероятных типов сверхразума.

Папа римский Франциск не так давно заметил, что согласился бы крестить инопланетянина

Искин может быть сверхразумным и превосходить людей по всем когнитивным и перцептивным аспектам, но, если он не ощущает себя искином, нам трудно считать, что эти создания обладают такой же ценностью, что и самосознающие существа, которые имеют «я» и являются личностями. И наоборот, в наличии или отсутствии у искина сознания кроется ключ к тому, как он оценивает нас: самосознающий искин может распознать у нас способность к осознанным переживаниям.

Разумы на Земле – прошлые, настоящие и будущие – являются, возможно, всего лишь точкой в более масштабном пространстве разумов, охватывающем все пространство-время.

Метафизическое смирение – это движение вперед через публичный диалог, опирающийся на метафизическое теоретизирование. Возможно, это звучит как интеллектуальная отговорка, намекающая на то, что от ученых здесь пользы мало.

в дискуссиях о природе разума вопрос его постоянства часто игнорируется. Я подозреваю, что причина этого проста: изучение природы разума относится к другой подобласти философии по сравнению с изучением природы личности – иными словами, все дело в академических ярлыках.

Обычный способ описания вычислительной теории сознания заключается в отсылке к идее о том, что разум – это компьютерная программа

нужно разобраться в метафизике своей идентичности, т. е. ответить на вопрос: благодаря чему или посредством чего конкретное «я», или личность, продолжает существовать?