Рецензия на книгу

• 

  Аноним4 мая 2018 г.

  Рецензия Исследовательского центра проблем регулирования робототехники и ИИ (АНО "Робоправо" )

  О чем: почему неминуемо опасны разработки искусственного интеллекта, а также что мы можем с этим делать.

  Резюме в одном абзаце. Пожалуй, это фундаментальный труд в сфере этики искусственного интеллекта. Книга – пример своеобразной sci-fi философии. Многостраничное исследование, в котором математические формулы причудливо смешиваются с философскими терминами, а опасности искусственного интеллекта разбираются буквально под микроскопом.
  
  Кому будет особенно интересно: предполагается, что ее должен прочитать любой, кто имеет отношение к разработкам и исследованиям в сфере искусственного интеллекта.

  Кто написал: профессор Оксфордского университета, философ, автор более 200 публикаций, один из ведущих экспертов в сфере этики искусственного интеллекта, член наблюдательных советов Machine Intelligence Research Institute и Future of Life Institute, руководитель Future of Humanity Institute.

  Ник Бостром – человек, определивший позицию Илона Маска, Билла Гейтса и тысяч других людей относительно экзистенциальных рисков создания сверхразума.

  Когда написана: на английском в 2014 году, на русском опубликована в 2016-м.

  Достоинства:
  

  • Это – своеобразная «библия» этики искусственного интеллекта. Пожалуй, на сегодняшний день нет более объемного гуманитарного исследования, посвященного опасностям развития сверхразума.
  • Исследование очень глубокое – одна только библиография занимает почти сто страниц.
  • Книга остается актуальной даже спустя нескольких лет после ее издания в отличие от многих других книг по робототехнике и искусственному интеллекту. Очень медленное устаревание обусловлено не только гуманитарным характером исследования. В ряде случаев автор смог верно предсказать пути развития технологий. Сегодня это не самая легкая задача.
  • Отличный перевод. Задача была очень трудной, и переводчик с ней справился на сто процентов.

    Недостатки:

  • Исследование, возможно, даже слишком глубокое. К середине книги читатель рискует утонуть в волнах рассуждений автора, а страницы начинают состоять из длинных абзацев в лучших традициях немецкой философии.
  • Иногда создается впечатление, что даже самую простую мысль автор может выразить только в узкоспециальных философских терминах, снабдив ее развернутыми умозаключениями и математической формулой.
  • Хотя книга изначально предназначалась, прежде всего, для специалистов в сфере искусственного интеллекта, стиль написания на эту аудиторию явно не нацелен.

    Цитаты:

  
  

  
  «Перед лицом перспективы взрывного развития интеллекта мы похожи на детей, играющих с бомбой. Именно таков разрыв между мощностью нашей игрушки и незрелостью нашего поведения. Сверхразум – это вызов, ответить на который мы не готовы сегодня, и не будем готовы еще долгое время».
  «Пожалуй, нас ожидает самая серьезная и пугающая повестка, которую когда-либо получало человечество. И независимо от того, победим мы или проиграем – не исключено, что этот вызов станет для нас последним».

  Андрей Незнамов

  5

  1,4K