Рецензия на книгу

• 

  Neradence20 декабря 2022 г.

  Убери человеческий фактор и получи машинный

  Небольшая книга на один-два вечера, в которой автор рассуждает о том, куда и как быстро человечество катится со своей цифровизацией и автоматизацией любого аспекта жизни.

  Основная идея "Hello World", для аргументов к которой автор насобирала приличное количество реальных случаев и пообщалась с людьми разной степени известности, крутится вокруг того, что не стоит слепо доверять алгоритмам, хотя иногда очень хочется. Фрай рассуждает о том, что их выводы могут быть не всегда корректны, к тому же, когда сам алгоритм - коммерческая тайна, и что он там делает в своей чёрной коробочке (в лучшем случае, серой) - никто толком не знает. Особенно тот, кто в последствии полученные выкладки применяет к жизни без малейшего осмысленного анализа.
  Есть истории из работы социальных служб, юридических институтов, пенитенциарной системы, медиа в лице социальных сетей, медицины и, конечно же, автопилотов. Общий смысл везде один и тот же: инженеры стремятся сделать необходимость в человеке у машины минимальным, в результате человек расслабляется, забывает, как он вообще должен работать, утрачивает навыки, после чего в случае ЧС паникует и получает либо большие проблемы, либо в очень плохом случае - погибает, как в случае с пилотами современных Боингов.

  Решение, которое предлагает автор: отойти от полной автоматизации и прийти к связке "машина и человек", когда машина человеку только помогает, но не принимает сама непонятно какие решения. Не скажу, что я полностью согласна с подобной точкой зрения, меня больше привлекает идея и дальше улучшать автономные системы, но автор неплохо обосновывает свою позицию. В качестве основного положительного примера у неё выступает компьютерное зрение в медицине, когда нейронка отфильтровывает фотографии на "точно нет" и всё остальное, а врач уже делает экспертизу.

  Немного насыпано про байесовские методы и deep learning, но так, буквально на одну страницу, чисто в виде "такое есть и используется". Так же Фрай временами отсылает на работы других авторов, где можно отдельно почитать, например, про статистику. Это понравилось.

  Но книга, конечно, прямо очень американская, причём иногда перекосы в мировосприятии автора доходят до абсурда. Вот она рассказывает про то, что статистика никого специально не дискредитирует, а просто использует все накопленные данные, а потом внезапно: но вот если искать "профессора математики" в Гугл.Картинках, то там одни мужчины, а ведь Гугл мог бы подделать данные и выводить больше женщин, чтобы показать нам мир мечты. Ага. Чьей мечты-то? Определённо точно, например, не моей, меня любые искусственные манипуляции с данными ради "инклюзивности и репрезентации" раздражают.
  Или как же не проехаться было опять по бедной Кембридж Аналитике, которую всё не могут оставить в покое, там тоже вроде сначала всё нормально, "вот аналитики использовали персональные данные, предоставленные Мете, вот они делали всё тоже самое, что делают обычные партийные агитаторы, но раз они делали это через соцсети в пользу Трампа, то это плохо и так нельзя". Потому что неправильная манипуляция.

  И в каждой главе есть хотя бы парочка пассажей подобного толка, когда автор вместо дальнейшего приведения реальных примеров нейронных сетей в нашей скорбной жизни скатывается куда-то в сторону морализаторства, почему имеющиеся манипуляции данными сейчас плохие и какие надо делать, чтобы они были хорошими и правильными. Потом также внезапно утрачивает свой sjw'шный задор и возвращается в нормальное повествование, из-за чего иногда натурально кажется, что книгу два человека писали.

  И вот этот твитторский налёт впечатление лично мне подпортил, хотя в целом к содержанию особо придираться не хочется. Если с темой применения нейронок в жизни читатель мало знаком, будет весьма познавательно. Читается легко. Особых откровений в книге не содержится, теории мало, но хорошо подойдёт при желании составить представление, что человечество уже прямо сейчас оставило на откуп машинному обучению и насколько корректно оно всё работает.

  7

  159