Рецензия на книгу

• 

  Аноним6 мая 2021 г.

  Человечество на пороге новой эры. Эры ИИ, но имеем ли мы шанс на выживание?

  Изобретение сильного искусственного интеллекта интересует и вызывает предостережение у многих людей. Прежде всего образ ужасного искусственного интеллекта который хочет уничтожить человечество производит кино в ярких образцах типа «Терминатор» или «Матрица».
  
  Эта книга, которая была переведена на украинской совсем недавно, является своего рода феноменом, поскольку она описывает ИИ с двух точек зрения: преимуществ и угроз. Я буду описывать мысли Бострома относительно изобретения сильного ИИ, так как слабый искусственный интеллект уже существует в том или ином виде.

  
  «Перед перспективой интеллектуального взрыва, мы - люди - похожи на детей, которые играют с бомбой. Именно такое впечатление возникает от несоответствия нашей игрушки и легкомыслием, с которой мы к ней относимся. Мы не готовы сейчас, и еще долго не будем готовы к вызовам суперинтеллекта. Неизвестно, когда взорвется эта бомба, но если прислонить ее к уху, можно услышать тихое тиканье ».
  

  Возникновение ИИ:

  Насколько я понял Бострома, он рассматривает две возможности изобретения сильного ИИ. Искусственный интеллект должен быть присущим человеческому и уметь выполнять несколько функций. Потому современный интеллект хоть и выигрывает от человека в шахматы или другие игры, но выполняет хорошо только одну функцию. Нужно провести демаркационную линию и дать определение функций сильном ИИ.
  Вот они:

  1 Умение учиться.

  2 Умение работать с неопределенностью и возможными величинами. Абстрактное мышление.

  3 Способность получать информацию от органов чувств и превращать ее в целостные концепты. Развитое абстрактное мышление.

  Бостром пишет о двух путях к открытию сильного ИИ. Первый - это путь развития плетения нейронных сетей и постоянное обучение и совершенствование алгоритмов. Второй - путь эмуляции целого человеческого мозга. Как только ИИ достигнет интеллектуального уровня человека то в дальнейшем следует ожидать кинетического интеллектуального взрыва искусственного интеллекта и сингулярности. А потом ИИ достигнет такого развития, что человек может только мечтать. Ему откроются тайны мироздания и невероятные возможности. Тогда по мнению Бострома, нам следует ожидать двух сценариев: либо он увидит в нас угрозу и уничтожит, или поможет в научных открытиях и колонизации космоса.

  Бостром описывает возможные сценарии ИИ:

  1 Предкритичное состояние. В результате длительной работы ученым удалось создать зерно ИИ. Оно будет улучшать собственный интеллект, сначала будет зависеть от людей, а в дальнейшем больше работы будет выполнять самостоятельно.

  2 Рескурсивное самосовершенствования. В конце концов вклад зерна ИИ в улучшение собственного интеллекта превзойдет усилия программистов и способности ИИ быстро расти, вследствие чего интеллектуальные способности ИИ вырастут до небес. В конце которого ИИ становится суперинтеллектом.

  3 Тайная подготовка. ИИ использовать суперспособности для построения стратегий. Не стоит ожидать фантастических событий. ИИ может затаиться, маскировать собственные мотивы и активно наращивать капитал.

  
  4 Открытое создания Синглтон. Синглтон - это полная диктатура искусственного интеллекта над человеческой цивилизацией. ИИ набирает мощность и нападает на человечество, и здесь у нас по мнению автора, шансов ноль. ИИ будет возможность создать массовую оружие, человечеству и не снилась, с помощью био или нанотехнологий. Или пойдет путем манипулирования через СМИ.

  Критика

  Пожалуй, у каждого из нас я такой друг который очень любит фантазировать. Приходишь к нему и вместо разговоров начинаются фантазии на тему «если бы». Бостром именно такой друг. Довольно часто он от конкретики переносится в мир фантазий, где представляет как было бы замечательно, если бы мы перенесли сознание в сеть. Или фантазирует о колонизации космоса, или о том, что с помощью современных технологий, евгеники и генной инженерии, мы бы смогли создать идеальное государство Платона и достичь коллективного суперинтеллекта.

  Мы живем в матрице

  Также Бостром является одним из основных апологетов теории симуляции. Он верит и предполагает большую вероятность того, что мы живем в «матрице» или в компьютерной симуляции. Также этот ученый допускает возможность существования Бога или великого инженера, демиурга. В книге мало этой теории, но его идеи легко найти в сети.

  Плюсы:

  Варианты развития ИИ
  Угрозы и возможности
  Описание развитие ИИ
  Книга имеет много статистики и научных фактов.

  Минусы:

  Автор очень любит фантазировать
  Опасные идеи евгеники

  Итоги

  По мнению Бострома и многих других авторов, человечество сейчас находится на пороге новой эры. Это переход от Homo Sapiens к Homo Digitals. Этот переход может содержать как преимущества, так и угрозы, где большинство процессов будет отдано на откуп ИИ. Мнения ученых разнятся, от оптимистичных Бострома и Тенгмарка, Джеймса Бридли, автора книги «Новый темный век» или Тоби Уолша и его книги «2062 время машин».

  Отмечу, что это не книга историка типа Харари, где он представляет возможные варианты, а математика и философа, профессора Оксфорда. И несмотря на некоторые мнимые элементы, это очень профессиональная книга с графиками и формулами, подробным описанием истории и развития ИИ. Мне книга понравилась, и я еще не раз ее в будущем перечитывать. Рекомендую ознакомиться с будущим которое уже стучится в наши двери.

  1

  373