Рецензия на книгу

• 

  Shurka80

  7 июня 2024

  Нас уничтожат деньги

  Если речь заходит об агрессивном искусственном интеллекте, в голову в первую очередь приходит SkyNET из франшизы "Терминатор", военная система, которая уничтожила человечество. Только потом вспоминается - еще Чак Паланик в "Бойцовском клубе" говорил, что для установления хаоса достаточно разрушить банковскую сферу. Роберт Харрис в своем романе совместил оба варианта.

  Итак, у нас есть гений-физик, который поглощен идеей создания самообучающегося ИИ; есть его партнер, который направил г.героя в денежное русло биржевых игр; и есть собственно ИИ, который должен приносить своим создателям доход. Однако этот самый ИИ не отягощен моральными настройками человеков, у него в целях прописаны ДЕНЬГИ. Поэтому оповещение о заложенной в самолет бомбе, промелькнувшее где-то на просторах интернета, ИИ воспринимает как стимул избавиться от акций авиакомпании, без оповещения государственных служб безопасности, например. Не его это дело. Как не его дело, думать о жертвах беспорядков, возникших на фоне обрушения фондового рынка, к чему привели как раз его действия.

  Любопытная книга. Интересно распутывать заговор, которого нет. Интересно следить за рождением подозрений, которые ведут не туда, куда хочется. И интересно, почему ИИ остановился на полумерах.

  Вот смотрите: еще находясь в тестовом режиме, не играя на бирже от лица компании, ИИ уже занялся своей безопасностью. Для начала, он взломал электронную почту г.героя и начал от его лица рассылать письма:
  

  • установил скрытые камеры во всех доступных местах, во всех помещениях офиса и личного дома гг, включая спальни и туалеты;
  • спер у гг денег, прокрутил и вернул с прибылью;
  • купил участок земли, построил там серверную и перенес свои мощности;
  • взломал комп психолога гг и спер записи медицинской карты;
  • от лица гг нашел в интернете психа, грезящего об убийствах, и завел с ним переписку, рассказывая о своем (гг) желании умереть;
  • от лица гг купил все произведения своей жены-художницы на ее первой выставке, чем унизил ее, обесценил все ее работы и вдрызг рассорил супругов.

  Все эти действия по получению своей свободы ИИ проделал чужими руками. Даже смерть одного из второстепенных героев в шахте лифта можно списать на несчастный случай - ну не посмотрел персонаж, что кабины нет, и шагнул в пропасть. Только летел почему-то молча. И провожающий его гг тоже не заметил, что шахта пустая... Ну, такое.

  Или вот ситуация на складе, где гг хотел устроить пожар. Такой умный ИИ не предусмотрел возможность, не озаботился системой пожаротушения? А зачем ИИ вообще везде пускал гг? Если построена такая сложная многоходовочка с симуляцией сумасшествия гг, которая должна привести к его смерти, почему бы тому не погибнуть на пожаре от противопожарных систем?

  Пошла проверить, в каком году написана книга - в 2011. К этому моменту огнетушители с углекислым газом использовались уже более 100 лет! Все же знают, как он работает? Углекислый газ вымещает кислород из очага горения и пламя гаснет. Окажись в помещении с такой противопожарной системой человек, он просто задохнется из-за отсутствия достаточного для дыхания кислорода. Все, несчастный случай, никто не виноват.

  И главное, для чего это все, если это биржевой ИИ не вышел из установленных биржевых правил, ограничив свои действия рамками неподозрительных объемов торгов и прибылей? То есть сделал ровно то, для чего его создали?

  В очередной раз человек (герой книги) создал что-то, умнее себя, и испугался.

  Что в итоге: книга показалась мне не то чтобы незаконченной, но недокрученной, недоведенной до апофеоза с точки зрения ИИ. Да, тут г.герой человек, и его история вроде как завершена, хотя тоже не факт. Но история в целом оборвалась на самом интересном месте. Что будет делать ИИ, созданный для работы на бирже, после того, как биржа рухнула? Что будут делать люди, работающие в компании, где есть такой ИИ? К каким выводам придут полицейские, расследующие дело? Увы, ответов меньше, чем вопросов.