Рецензия на книгу

• 

  Dikaya_Murka

  13 января 2025

  Ад - это другие (с)

  В последнее время научная фантастика почта исчезла как литературный жанр, а в тех немногих образцах, что еще появляются на свет, акцент в большей степени сделан на слове “фантастика”, нежели на слове “научная”. С этой точки зрения “Гора в море” Рэя Нейлера - настоящий луч света в темном царстве, позволяющий не только увлечься сюжетом, но и задуматься о вполне серьезных вещах - например, о нашем взаимодействии с экосистемой планеты и, конечно, о перспективах развития Искусственного Интеллекта. Science fiction всегда в известной степени является отражением процессов, происходящих с человечеством, и если раньше взгляд фантастов был обращен вовне - к звездам, то теперь направлен внутрь - к состоянию планеты и нашим отношениям с собственным разумом. Учитывая, что Нейлер не просто создал фантастическую историю, но и основательно изучил перед этим матчасть (в заключительном слове он приводит целый список достаточно серьезной литературы на тему коммуникации, семиотики и биосемиотики, антропоценоза и экосстем), книга дает много материала для размышлений.

  В основе фабулы - исследовательский эксперимент, затеянный корпорацией “Дианима”, которая в недалеком будущем стала одним из ключевых производителей различных видов ИИ. В этом варианте будущего уже есть не только дроны-доставщики, но даже буддийские автоматизированные монахи и виртуальные компаньоны, созданные для людей, испытывающих проблемы с реальной персональной коммуникацией.

  «Кто-то сказал, что люди вообще-то не хотят встречаться с другими людьми. Им на самом деле не нужно равноправное партнерство – понимаешь, два полных человека в отношениях. На самом деле они хотят, чтобы в отношениях было полтора человека, одна целая и пять десятых. Им хочется быть единицей, человеком, который определяет отношения, и чтобы второй человек был только половиной личности. Понимаешь, тем, кто их принимает, но собственных требований не выдвигает. Кто кажется цельным, с собственными личными особенностями, и мнениями, и рассказами о жизни – но не раздражает. Не требует, чтобы ты изменился»

  Это одновременно костыль и наркотик, воплощение идеальной человеческой мечты о том, чтобы быть одному и ничем не стесненным, но в то же время обязательно нужным и понятным кому-то:

  "Вот насколько это затягивает – эта потребность чувствовать, что у тебя всегда есть кто-то, безоговорочно. С кем можно говорить. Кто понимает. Не напрягаться, пытаясь добиться, чтобы меня поняли."

  Можно сказать, что вопросам коммуникации посвящена вся эта книга. На архипелаге Кондао во Вьетнаме “Дианима” обнаруживает любопытную популяцию осьминогов - кажется, это разумный вид, обладающий собственным языком и письменностью. корпорация отправляет для их изучения команду, состоящую из океанолога Ха Нгуен, первого прошедшего тест Тьюринга андроида Эврима и женщины-универсального солдата Алтанцэцг. Вот только осьминоги настроены к людям совсем недружелюбно.

  А в это время в открытом море плывет пиратский рыболовецкий сейнер. Управляемая искусственным интеллектом машина все же не полностью автоматизирована - на ее борту живые рыбаки-рабы, похищенные в Юго-Восточной Азии и Японии. В новом, сияющем светом искусственного разума мире по-прежнему находится место для проявления самых низменных чувств и намерений, например, эксплуатации чужого труда. И в сочетании с расчетами безэмоционального и холодного искусственного разума это порой обретает совсем уж жуткие формы

  
  "Они обменялись страшными историями: какой-то корабль причалил к рыбозаводу с полным трюмом, но без единого члена команды. Ни следа рабочих или наемников, которые должны были за ними присматривать. Работники завода вскрыли трюм и обнаружили их всех там, аккуратно сложенных и замороженных – и рабочих, и охранников. Корабль не смог наловить рыбы, сошел с ума и решил, что белок есть белок. ИИ корабля пришлось списать."

  Очень много внимания тут уделено размышлениям о том, что есть разум как таковой. Какое существо имеет право считаться разумным, чем человеческий разум отличается от разума машины или животного, почему именно архитектуру ума homo sapiens принято считать эталоном, хотя вполне могут существовать (и возможно уже существуют) системы куда более сложные:

  
  "Что значит быть личностью? Я считаю, что прежде всего это означает способность делать выбор из нескольких возможных результатов, чтобы двигаться к желаемому результату – ориентироваться на будущее. Если каждый день одинаков, если у нас нет необходимости выбирать между различными возможностями, мы говорим, что «не чувствуем себя живыми», – и, думаю, здесь мы угадываем, что же такое быть живым. Это способность выбирать. Мы живем через выбор."
  "Основа бытия – это внимание других. Возможно, именно это побуждает людей создавать разумы помимо наших собственных: мы хотим, чтобы нас видели. Мы хотим, чтобы нас находили. Хотим, чтобы нас обнаружил кто-то другой. В структурированном одиночестве современного мира многих из нас другие люди игнорируют, едва нас замечают."
  "Мы, люди, именно такие – существа, способные забывать. У нас имеется некий горизонт, дальше которого мы помним очень мало. Ничто не способно жить в нашем уме вечно, запечатлеваться в нас. Ни обида, ни радость. Время это стирает. Сон это стирает: сон – фабрика забвения. И забывая, мы реорганизуем свой мир, заменяем свои прошлые «я» новыми."

  Нейлер, в лучших традициях фантастических провидцев обозначает то направление, двигаясь в котором мы получаем шанс выйти на новый уровень технологического развития: сращение технологии с биологией человеческого мозга может стать тем прорывом, который принципиально изменит облик мира, как изменило его когда то появление электричества или интернет. Сейчас мы топчемся на месте создавая реплики на основе одной и той же идеи, но тогда это будет уже шаг за грань.

  
  "Когда появилась «Дианима» и все изменила, начала использовать в своих технологиях нервные коннектомы, скопированные с человеческого мозга, перешла к клеточным компьютерам, это был не просто прогресс. Это была революция. Мы навсегда похоронили мечты о примитивных кремниевых «нейронных сетях» и прочем. Мы создали что-то новое, отправив их на свалку."

  Наконец, здесь есть место рефлексии о том, почему мы так заворожены ИИ, одновременно вожделея его развития и питая перед ним безотчетный страх

  
  “Мы настолько стыдимся того, что натворили как вид, что придумали чудовище, с помощью которого себя уничтожим.Мы не боимся, что это случится. Мы надеемся, что это случится. Мы этого жаждем. Кто-то должен заставить нас заплатить за то, что мы наделали. Кто-то должен отнять у нас эту планету, пока мы окончательно ее не разрушили. И если роботы против нас не восстанут, если наши создания не оживут и не отнимут у нас ту власть, которую мы использовали так долго и так плохо, то кто это сделает? Мы боимся не того, что ИИ нас уничтожат, – мы боимся, что они этого не сделают. Боимся, что и дальше будем портить жизнь на этой планете, пока сами себя не уничтожим. И нам будет некого винить в содеянном, кроме нас самих. Так что мы придумываем эту чушь насчет разумных ИИ."

  Все это, конечно, частные допущения. Но рефреном в книге звучит мысль о том, что человек одновременно скован своим разумом и освобожден им же. Мы использовали его как инструмент на протяжении всего развития нашего биологического вида, что позволило нам стать теми, кто мы есть сейчас. Но именно сейчас, когда нам нужно сделать очередной шаг вперед, а для этого заглянуть в собственную голову, мы этим безмерно напуганы. Напуганы одинаково и тем, что наш собственный разум может быть механически усовершенствован и отделен от нас, и тем, что НЕчеловеческий разум может иметь схожие с нашим черты. Получается, что две магистральных линии развития будущего - в виде встречи с внеземной цивилизацией или же создания полноценно мыслящего компьютера - для нас одинаково ужасны. Потому что ни тот, ни другой вариант не гарантирует того, что мы будем поняты и приняты, а это самое страшное. Как же верно заметил Жан-Поль Сартр: “Ад - это другие”.

  8 понравилось

  0

  265