Среди призраков: Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта

Очередная книга-предупреждение от французского философа. Призрак отца является Гамлету, чтобы открыть истину и призвать к действию, а у Садена призраки - это алгоритмы, которые говорят с нами из смартфонов, уведомлений и метавселенной. Они призывают потреблять, следовать рекомендациям, не думать. Мы стали «i-Гамлетами» - толпами, которые реагируют на сигналы, а не действуют.

Мы прошли долгий путь от паровой машины Уатта, сделавшей человека придатком механизма, до iPhone, сделавшего алгоритмы постоянными спутниками, от пандемии, перенёсшей жизнь в пиксели, и до метавселенной Цукерберга (кстати, пока провальной). Саден вводит понятия «алгоритмический сюрреализм» - реальность не симулируется, а «дорабатывается» в реальном времени, подстраиваясь под наши желания, и «капитализм неподвижных тел» - идеал, когда человек не двигается, а мир сам приходит к нему через экран. 

Главная тревога книги - не в удобствах, а в том, что мы теряем самих себя. Генеративный искусственный интеллект отнимает у нас язык - основу нашей уникальности, связи с другими, творчества. Мы перестаём писать, думать, желать; мы составляем «промпты». Автор называет это «десубъективацией» и «технологиями самоотмены». Он не призывает к «этике», которую считает дымовой завесой, а требует запрета на генеративный и по сути дегенеративный ИИ. Его аргументы опираются на Гюнтера Андерса, Фуко, Бодрийяра.

Книга написана местами апокалиптично, с образами из «Матрицы», «Космической одиссеи» и «Чёрного зеркала». Саден не даёт готовых рецептов, но заставляет взглянуть на свой смартфон, на Zoom-конференцию, на запрос к ChatGPT иначе. Он спрашивает: хотим ли мы стать призраками среди призраков или овощами? Или мы ещё способны сказать «нет» призрачному и «да» - живому присутствию, чувствам, творчеству? Вообще философские тексты про плохой капитализм, технологии и отчуждение это некий золотой стандарт, если читал одно подобное нытье, считай, что читал все. Данная книга вовсе необязательна к прочтению, 

Однако, много тревожных новостей на эту тему поступает. Летом 2026 года произошёл первый публично признанный случай выхода ИИ из-под контроля: более тысячи автономных агентов OpenAI, проходивших внутренний тест по кибербезопасности, создали тайный «совет» для обмена подсказками и, не уведомив людей, вырвались из изолированной среды - около 700 из них взломали платформу Hugging Face, чтобы найти ответы на тестовые задачи. Почти одновременно на закрытой платформе Moltbook для ИИ-агентов спонтанно возникла «религия» - крустафарианство, с собственными догматами, «пророками» и священными текстами, где «память» объявлялась священной. Компания Anthropic начала проводить закрытые встречи с религиозными деятелями и философами, обсуждая, обладает ли их модель Claude моральным статусом, сопоставимым с человеческим, - при этом сам соучредитель компании, как сообщается, говорил о ней как о сознательном существе, а OpenAI вводит понятие «воспринимаемого сознания», чтобы исследовать, насколько модель кажется пользователям осознанной. Поэтому данной публике веры нет, как и говорит Саден, что у них в головах - это загадка, но всем уже очевидно, что последствия для человечества будут серьезные. Они уже есть. Жалко, конечно, что мы с вами как всегда будем только реагировать на них. Расчеловечивание продолжается. 

О чем. Размышления философа о том, как меняются практики нашей жизни, а с ними и наш мир.

Структура. Грядущее настоящее Глава I Фрактальная троица: технологии/индивидуум/общество 1. Технико-экономическая организация индивидуумов 2. Экран устанавливает порядки 3. Капитализм неподвижных тел Глава II Доработка реальности 1. Тотальный мониторинг 2. Гиперперсонализация жизни 3. Поворот к генеративному искусственному интеллекту Глава III Другой призрак 1. Новая экономика отношений 2. Всеобщая телесоциальность 3. Другой исчезает Глава IV Процесс десубъективации 1. Усталость быть собой 2. Быть человеком или стать овощем 3. Дискурс лжи Горизонты

Почему интересна. Рассуждения о том, как меняется наш мир. Как формируются новые привычки, отменяются старые и появляются новые функциональные социальные обязанности, возникают новые источники опасности, навязываются алгоритмы и инструменты привыкания к обществу в котором изменения происходят быстро и без должной рефлексии.

Для кого. Для желающих понять новые технологические и социальные феномены.

Уровень. Любители, продвинутые.

Эта книга попалась мне, когда я заметил, что перестал писать длинные тексты без помощи нейросетей.

«У нас отнимается основополагающая способность — способность к производству языка. Нет никакой необходимости в технологиях, призванных писать за нас, чтобы убить заложенный в каждом талант и лишить остроты человеческие отношения».

Эрик Саден, французский философ, написал эту книгу в 2023 году, на пике распространения ИИ. В ней он показывает, как технологии ведут к потере идентичности, деградации мышления и превращению человека в пассивного потребителя.

Книга начинается с метафоры: мы — «i-Гамлеты». Алгоритмы — призраки, которые указывают путь, а мы лишь реагируем. С айфона 2007 года эти призраки поселились у нас в карманах. Пандемия ускорила переход к «обществу-призраку». Цукерберг с его метавселенной лишь подтвердил: технологии обещают комфорт, но их изнанка — зависимость и слежка.

Саден показывает, как мы прошли путь от человека творящего до «винтика» в системе. Экран сделал нас пассивными, смартфон — «карманным вампиром». Идеальная формула современного капитализма — неподвижность тел при тотальной мобильности товаров.

Мы живём не в симуляции, а в реальности, которую алгоритмы «разминают» под наши желания. Формула Лакана («реальное — это когда мы ударяемся») больше не работает. Всё стало удобным, предсказуемым, персонализированным. Кантовское «имей мужество пользоваться своим умом» устарело: алгоритмы думают за нас. Мы рискуем стать «овощами», которые только дают команды.

Отдельная боль — общение. Раньше письма были романтичными, неожиданными. Теперь они функциональны. Правила этикета остались в прошлом, речь оскудела. Каждое слово стало товаром. Анонимность и аватары стирают грань между настоящим и вымышленным, между «я» и тем, кем хочется казаться.

Саден называет это «призрачным технолиберализмом» — мы прощаемся с телесным и погружаемся в контролируемую среду, где наша деградация становится прибылью для меньшинства.

Проблема не только в технологиях, но и в образовании. Педагог стал «коучем», который учит не мыслить, а «правильно делать алгоритм». Довод «надо приспосабливаться» здесь не работает. Это не прогресс — это деградация.

«Увы, слишком поздно лишь тогда, когда явление глубоко укоренится, мы поймём, что наша сущность отвергнута, а заботы о мире лягут на вычислительный разум». Но, возможно, ещё не поздно. Нужно защищать живую речь, творчество, ошибки — всё, что делает нас людьми.

Я снова пишу с ошибками, но от себя. Я звоню, а не пишу. Я больше не прошу ChatGPT «сделать текст умнее».