Рецензия на книгу

• 

  Neradence6 ноября 2022 г.

  Единственное, на что всегда можно рассчитывать - последовательная глупость машинных интеллектов

  Весьма подробный комплексный анализ того, как и почему современная разработка ИИ пришла к своему текущему состоянию и почему упёрлась в свой вариант стеклянного потолка, об который теперь вяло бьётся. Без особого, кстати, энтузиазма.
  (Книга вроде двухлетней давности, но за это время технологического прорыва не произошло, так что всё описанное актуально по-прежнему.)

  Основная идея в следующем: текущие ИИ - не ИИ в полном смысле, а узкоспециализированные, они же слабые, нейронные сети, которые используются только для конкретных задач, и даже в их рамках не способные на что-то, выходящее за рамки обучающего набора хоть на три пикселя.
  В целом, насколько мне хватает практического опыта судить, так и есть, потому что deep learning, конечно, позволил улучшить машинный перевод и распознавание речи, а big data - распознавание образов, но на этом успехи и застопорились. Ни одна сеть не справляется с тем, чтобы не просто отличать кота от собаки по фотографиям, но хотя бы генерировать изображения котов в естественных состояниях, а не с лишними лапами или недостающими ушами, в ста процентах случаев. О том, чтобы объяснить абстракцию "кот", можно и не заикаться.
  Авторы настаивают на том, что для действительно сильного ИИ, который способен делать не только одну задачу вроде автоматического перевода с английского на французский, исследовательскому и разрабатывающему сообществу следует целиком изменить подход. Вместо обучения каждой сети с нуля предусмотреть возможность переиспользования существующих навыков и умений, накопленных человечеством, вместо создания списков и таблиц соответствий - умение самообучаться, добавить гибкости мышления, осмысления мира "в целом", etc.

  Звучит, безусловно, логично. Авторы подкрепляют свою позицию многочисленными примерами от личного опыта до разбора известных случаев, когда очередной стартап заявлял о "безусловном прорыве" в сфере ИИ, а потом нейронная сеть путала черепаху с винтовкой. С точки зрения собранных под одной обложкой идиотических случаев, выдаваемых или генерируемых нейронками, книга - безусловный лидер, видно, что материала для неё переработано было много.
  Исторические экскурсы поэтому тоже в наличии, упомянуты и игроки в го, и бессмертный чат-бот Elisa, и всякие там прохождения теста Тьюринга с помощью обманных манёвров. Профессионализма у авторов не отнять.

  Однако авторы при этом не подводят читателя к самой главной мысли - как, собственно говоря, правильно сделать-то надо? То есть да, хорошо, убедительно доказали: слабые ИИ не подходят и не решают проблем грядущей эпохи, подклеивать их изолентой, то есть, менять выборки обучающих сетов "с гориллами" на "без горилл" - в длительной перспективе бессмысленно, надо менять подход целиком. А на что менять?
  Никаких особых рецептов о том, с чего начать, например, формирование для компьютеров реального умения читать на человеческом уровне, нет. Ну как так, где вывод из манифеста, где рецепт выведения индустрии из застоя?
  Авторы, похоже, сами не в курсе. Они описали общую идею, чего нам всем не хватает для сильного ИИ, но путей достижения у них нет.

  Заключение показалось мне поэтому прям сильно утопичным. Авторы долго и со вкусом расписывают, как после создания сильного ИИ наступит для человечества Мир Полудня, где вся сложная, тяжёлая и скучная работа что на производстве, что в домохозяйствах будет передана роботам, а каждый человек сможет заняться исключительно творчеством, сократив свой рабочий день до четырёх, а лучше - до двух часов, по небу будут летать радужные единороги, и вообще да здравствует всё хорошее.
  После того, как предыдущие восемь глав они на примерах показывали, почему весь нынешний ИИ - фикция, это выглядело, как минимум, занятно. Потому что из книги натурально никаким образом не следует, что такой внезапный технологический скачок навстречу сингулярности в целом возможен, скорее - даже наоборот, тут вон минимум двести страниц том, что человечество никак не может справиться с задачей обучения ИИ здравому смыслу.

  Что меня несколько, ну, озадачило по ходу повествования, так это то, что бедные американские авторы даже в книге, которая максимально далека от геополитических проблем, не смогли не ткнуть палочкой в Россию в формате "есть убедительные доказательства, что Россия атаковала атомные станции в США с помощью кибератак". И поэтому сильный ИИ - он может нести опасность для всего человечества.

  Можно подробностей, где именно взяли эти убедительные доказательства? В "The Washington Post" прочитали или во сне увидели? Потому что у мирового инфосек-сообщества много лет есть многогранные подтверждения того, что какой-нибудь Pegasus нормально так ЦРУ используется для атак на телефоны чужих дипломатов, политических лидеров и независимых журналистов, но почему-то про опасения того, что сильный ИИ будет работать в интересах США, тут ни слова.
  Надо же, какая избирательная слепота.
  Не, я понимаю, идеологические противники, все дела, но что ж так в лоб-то двигать, можно было хоть замаскировать в духе, что человечество в принципе не совершенно и использует технологии не всегда во имя всеобщего блага. Ну там, вот Россия делала, вот Китай, вот США, а чего только Иран не делал, и человечеству надо выработать концепцию по отношению к ИИ от всей цивилизации; но нет.
  Странновато.

  Удивительно мало ещё затронута тема квантовых компьютеров и, соответственно, квантового ИИ, хотя Китай там что-то грандиозное не первый год сооружает. Буквально просто прошлись по соседству "ну такое есть", и всё; не совсем понимаю, почему.

  Читать, впрочем, всё равно было достаточно интересно. Книга хорошо освещает вынесенный в её заглавие вопрос, несмотря на элементы лёгкой однобокости в отдельных моментах, и она действительно познавательная в плане оценки общего состояния отрасли и её перспектив. Написана лёгким языком без особого упора на техническую терминологию, авторы явно рассчитывали на достаточно широкую аудиторию.
  Заслуженные девять скайнетов из десяти, я считаю, в плане ненавязчивого погружения в уютное болото представления о машинном обучении хорошо подойдёт.

  11

  188