Hello World: Being Human in the Age of Algorithms

"Привет Мир: быть человеком в эпоху алгоритмов" занятная книжка о том, что человека практически во всех сферах жизни окружают алгоритмы. Это реклама в интернете, карты и поисковые системы, даже наши с вами муки выбора бывают подчинены алгоритмам. Кто-то любит выстраивать в голове цепочки и закономерности, доверять принятие решения умным автоматам, а другие бояться жизни, в которой за них что-то решают, подталкивают к определённому продукту или заставляют выбирать из нескольких. Ханна Фрай не принимает ни одну из сторон, но пытается описать влияние алгоритмов за человека в целом.

С понятием "алгоритмов" сейчас очень тесно связано понятие "искусственного интеллекта". Ведь умные машины невозможно создать хаотично, каждый элемент, - будь это физическая деталь или кусок программного кода, - подчинён строгой логике, иначе такой аппарат просто не сможет работать как должно и выполнять поставленные задачи. Но чего нет у машины, так это эмоций. В книге приведён показательный пример с шахматной партией между компьютером нового поколения и знаменитым Гарри Каспаровым. Машина не умнее, просто "думает" она согласно алгоритму и ей не знакомо волнение, страх и чувство самосохранения. Именно поэтому и переоценивать её не стоит. Об ошибочных решениях интеллектуально организованных систем тоже есть в данной книге.

В целом это ещё одна неплохая книга о симбиозе человека и машины, ведь как бы умны алгоритмы не были, слепо доверять и полагаться на их решения не стоит. Много новых примеров об использовании искусственного интеллекта в производстве, медицине и органах власти, о которых я раньше не читала. Но автомобили с автопилотом пока не могут рассекать по нашим дорогам, так как их невозможно подготовить к непредвиденным обстоятельствам (резким пешеходам и курьерам Яндекс.Еды в наушниках). Алгоритмы могут сбоить, а данные, загруженные в их недра, попадать в руки злоумышленников. Однако своей жизни без удобных алгоритмов мы уже не представляем. Везде должен быть баланс и решение, как обычно, оставаться за человеком.

Можно читать только книги статистов и экономистов.

Можно восторгаться последней книгой Канемана «Шум».

Справедливости ради, в своей книге учёный обозначил недостаток и несуразность полного полагания на алгоритмы и статистику. И если у вас до сих пор витает мысль, что сухие цифры и математические модели реального мира еще далеки от совершенства, то вы правы и найдёте массу подтверждений уже в этой работе «HELLO WORLD».

Ханна Фрай описывает и критикует большинство современных «модных движений», новшеств и слепую веру в алгоритмы и искусственный интеллект.

Поднимается множество важных и актуальных вопросов для любого человека в XXI веке, но, к сожалению, ни один из них не закрывается. У автора выгодная позиция критика, а единственный инструмент «время». Плохо ли это?

Да, у вас после прочтения останется множество открытых вопросов, но качество и глубина их изменится. В этом большой плюс этой работы

Приятное и лёгкое чтение,

Которое я бы, наверно, всем подряд бы не рекомендовал…

Прочитайте содержание и решите – интересно вам это или нет.

Эту книгу я рассматриваю как приложение к книге Мелани Митчелл "Идиот или гений? Как работает и на что способен искусственный интеллект" . В той книге много идей и науки, а эта полностью состоит из примеров, те идеи иллюстрирующих. Все примеры доказывают, что

Эту цитату я уже приводил в отзыве о книге Мелани Митчелл. Здесь вместо неё приведён известный анекдот:

Интересными показались примеры, относящиеся к правосудию и здравоохранению.
Самая же нетривиальная идея -- о медицинской этике.
Предположим, мы создаём диагностическую программу. В интересах кого она должна действовать? Конкретного пациента или человечества?
История такая. Пусть к нам (пуассоновским потоком) идут пациенты, жалующиеся на кашель.
Если мы действуем в интересах пациента, мы должны назначить ему рентген, бактериологическое исследование, взять на всякий случай анализ крови и т.п. Потом мы ему выпишем антибиотик, и он в большинстве случаев выздоровеет на пару дней раньше, чем без всего этого.
Если же мы действуем в интересах человечества, то учтём загруженность лабораторий, ограниченные средства системы здравоохранения, проблемы резистентности бактерий и прочее в этом роде. Тогда мы просто выпишем пациенту аспирин и попросим перестать ныть.
Интересно, наших студентов-медиков учат таким дилеммам?

Общий вывод в двух словах такой.
Давайте не будем слишком уж доверять алгоритмам и перестанем злоупотреблять словом "интеллект" в целях рекламы. Пусть машины делают что могут и помогают человеку, а человек пусть говорит спасибо, и принимает решения сам.
Забавно, но это ровно та идеология, которую продвигали в 70-е годы прошлого века. Идея там была -- асучить страну. Это от слова АСУ = автоматизированная система управления -- не автоматическая, а автоматизированная, т.е. работающая под человеческим контролем. Это в точности и есть главная мысль этой книги.

Досадно, разумеется, но полностью автономные машины на дорогах общего пользования или просёлках появятся ещё не завтра. Завтра они станут ездить только по специально подготовленным маршрутам.
Водители маршруток должны напрячься от этой вести, остальные пока пусть спят за рулём спокойно.

Очередная попытка ответить на вопрос, что случится, если искусственный интеллект начнет принимать решения о том, как переустроить человеческое общество. Ханна Фрай подходит с неожиданной стороны: она предлагает обсудить алгоритмы, по которым работают машины, — и сравнить их с алгоритмами, которые лежат в основе принятия решений человеком. И выясняется, что гуманитарные решения обладают большей чувствительностью и специфичностью. Проще говоря, машины могут осваивать огромные массивы информации и на основе их создавать типовые (хотя и максимально подробные) проекты, например, судебных решений. Человек же в ситуации необходимости принятия такого судебного решения учитывает нюансы, которые машине, извините за каламбур, даже в голову не придут. Резюме — машине еще далеко до человечества, потому что оно не только разумом пробавляется, но и чувствами. Но книга интересная, вышла в серии «Политех», совместном проекте издательства «Corpus» и Политехнического музея.

Не могу назвать себя экспертом в сфере искусственного интеллекта, да и сама эта сфера не является для меня приоритетной. Тем не менее, я всё же стараюсь следить за новостями, ибо сама тема является, безусловно, перспективной, которая в недалёком будущем будет играть важную роль во всех отраслях человеческой жизнедеятельности. Следовательно, я стараюсь по возможности всё же читать литературу по данной теме, пусть даже эта литература и не является профессиональной. Я думаю, что написать книгу доступную (понятную) каждому человеку, в которой бы затрагивались современные достижения в этой области, определённо возможно. И да, эта книга является именно такой.

Главная ценность этой книги в том, что она предлагает обзор темы искусственного интеллекта в нынешних реалиях, т.е. каких успехов добились ученые, работающие над усовершенствованием искусственного интеллекта. Книга с этой задачей справилась просто великолепно. Автор книги не только описывает отрасли, в которых уже сегодня применяется искусственный интеллект, но и сделала она это в очень ясной и простой манере, сделав книгу доступной даже тем, кто ничего не знает об искусственном интеллект и/или кто очень далёк от технических наук как таковых. С этой точки зрения книгу можно уверенно рекомендовать всем гуманитариям, не боясь, что они могут что-то не понять книге. Поймут.

Итак, суть книги - показать успехи искусственного интеллекта на сегодняшний день. Для этого автор описывает работу искусственного интеллекта в таких сферах как судебная система, беспилотные автомобили, медицина, art. Кстати, мне особо заинтересовала тема, связанная с Интернетом и приватностью. Примечательно, что до этого момента я постоянно спрашивал, какую опасность представляют собой данные пользователей их сёрфинга Интернета. Сколько я читал, ни один автор так и не смог ясно сформулировать опасности, которые угрожают пользователям в связи со слежкой в Интернете. Ведь вся информация представляет собой лишь набор цифр, где нет ни имени пользователя, ни его адреса. Так в чём угроза, задавался я вопросом. До того момента пока я не прочитал вторую главу этой книги, в которой автор очень интересно рассказывает, как можно идентифицировать любого пользователя Интернета, а также узнать, какие сайты он посещал. Примечательно, что смогли идентифицировать не только судью, но и те сайты для взрослых, которые он как раз и посещал. Если всё это соответствует действительности, тогда несанкционированный сбор информации о пользователе представляет реальную угрозу, ибо получается, что возникает реальная угроза шантажа. Я не знаю насколько реально это можно использовать на практике, но то, что пишет автор, довольно убедительно. И что важно, только в этой книге рассказывается о системе деанонимизации любого пользователя всемирной паутины, включая имя и фамилию, место работы и адрес проживания. Но только в том случаи, если он оставляет соответствующую информацию в Интернете, а если точнее, в социальных сетях. Повторюсь, я не могу судить о том, насколько всё это серьёзно и насколько это представляет угрозу, но то, что пишет автор, действительно впечатляет.

Что касается остальных тем или остальных сфер применения искусственного интеллекта, то о чём-то я уже слышал, а что-то было в новинку. К примеру, определение диагноза с помощью искусственного интеллекта, уже не новая тема. Что касается темы создания и запуск проекта беспилотного автомобиля, то на эту тему было выпущено множество роликов на YouTube, а также был снят очень хороший документальный фильм The Secret Rules of Modern Living: Algorithms, который я настоятельно рекомендую смотреть параллельно с чтением этой книги, ибо фильм помогает понять или прояснить те моменты, в которых у книги это получается не очень удачно.

Итого: лучшая книга по теме AI, которая суммирует все достижения этой отрасли за последнее время. Книга не даёт прогноза на будущее, но мы можем предположить сами, что будет происходить в этой сфере дальше и что стоит нам ожидать от этой технологии в самое ближайшее время.

Да, совсем забыл сказать, что автор описывает не только положительные стороны искусственного интеллекта, но и отрицательные. Автор пишет, к каким печальным последствиям приводит всё ещё несовершенная технология искусственного интеллекта и что полностью опираться на эту технологию всё же не стоит. Что означает, что автор даёт в своей книге довольно сбалансированный взгляд на данный вопрос.

Небольшая книга на один-два вечера, в которой автор рассуждает о том, куда и как быстро человечество катится со своей цифровизацией и автоматизацией любого аспекта жизни.

Основная идея "Hello World", для аргументов к которой автор насобирала приличное количество реальных случаев и пообщалась с людьми разной степени известности, крутится вокруг того, что не стоит слепо доверять алгоритмам, хотя иногда очень хочется. Фрай рассуждает о том, что их выводы могут быть не всегда корректны, к тому же, когда сам алгоритм - коммерческая тайна, и что он там делает в своей чёрной коробочке (в лучшем случае, серой) - никто толком не знает. Особенно тот, кто в последствии полученные выкладки применяет к жизни без малейшего осмысленного анализа.
Есть истории из работы социальных служб, юридических институтов, пенитенциарной системы, медиа в лице социальных сетей, медицины и, конечно же, автопилотов. Общий смысл везде один и тот же: инженеры стремятся сделать необходимость в человеке у машины минимальным, в результате человек расслабляется, забывает, как он вообще должен работать, утрачивает навыки, после чего в случае ЧС паникует и получает либо большие проблемы, либо в очень плохом случае - погибает, как в случае с пилотами современных Боингов.

Решение, которое предлагает автор: отойти от полной автоматизации и прийти к связке "машина и человек", когда машина человеку только помогает, но не принимает сама непонятно какие решения. Не скажу, что я полностью согласна с подобной точкой зрения, меня больше привлекает идея и дальше улучшать автономные системы, но автор неплохо обосновывает свою позицию. В качестве основного положительного примера у неё выступает компьютерное зрение в медицине, когда нейронка отфильтровывает фотографии на "точно нет" и всё остальное, а врач уже делает экспертизу.

Немного насыпано про байесовские методы и deep learning, но так, буквально на одну страницу, чисто в виде "такое есть и используется". Так же Фрай временами отсылает на работы других авторов, где можно отдельно почитать, например, про статистику. Это понравилось.

Но книга, конечно, прямо очень американская, причём иногда перекосы в мировосприятии автора доходят до абсурда. Вот она рассказывает про то, что статистика никого специально не дискредитирует, а просто использует все накопленные данные, а потом внезапно: но вот если искать "профессора математики" в Гугл.Картинках, то там одни мужчины, а ведь Гугл мог бы подделать данные и выводить больше женщин, чтобы показать нам мир мечты. Ага. Чьей мечты-то? Определённо точно, например, не моей, меня любые искусственные манипуляции с данными ради "инклюзивности и репрезентации" раздражают.
Или как же не проехаться было опять по бедной Кембридж Аналитике, которую всё не могут оставить в покое, там тоже вроде сначала всё нормально, "вот аналитики использовали персональные данные, предоставленные Мете, вот они делали всё тоже самое, что делают обычные партийные агитаторы, но раз они делали это через соцсети в пользу Трампа, то это плохо и так нельзя". Потому что неправильная манипуляция.

И в каждой главе есть хотя бы парочка пассажей подобного толка, когда автор вместо дальнейшего приведения реальных примеров нейронных сетей в нашей скорбной жизни скатывается куда-то в сторону морализаторства, почему имеющиеся манипуляции данными сейчас плохие и какие надо делать, чтобы они были хорошими и правильными. Потом также внезапно утрачивает свой sjw'шный задор и возвращается в нормальное повествование, из-за чего иногда натурально кажется, что книгу два человека писали.

И вот этот твитторский налёт впечатление лично мне подпортил, хотя в целом к содержанию особо придираться не хочется. Если с темой применения нейронок в жизни читатель мало знаком, будет весьма познавательно. Читается легко. Особых откровений в книге не содержится, теории мало, но хорошо подойдёт при желании составить представление, что человечество уже прямо сейчас оставило на откуп машинному обучению и насколько корректно оно всё работает.

Небольшой обзорный текст о роли алгоритмов в современном мире. Книга поделена на тематические фрагменты: медицина, правосудие, преступность, транспорт — которые, в свою очередь, разбиты на крохотные главы. Ханне Фрай хватает всего двух-трех страниц чтобы рассказать о каком-нибудь удачном или неудачном алгоритме, выстроить цепочку выводов, подвести читателя к следующей главе, а также разрядить и без того динамичный текст какой-нибудь запоминающейся анекдотичной историей:

Ханна Фрай — опытный лектор, рассказчик и постоянный гость научно-популярного ютуб-канала Numberphile. Она знает как преподнести информацию, чтобы заинтересовать читателя и, что немаловажно, делает это без излишнего эпатажа: там где Харари предвещает конец света, Юдковский стращает сингулярностью, а Маск продает магию компьютерного зрения — Ханна Фрай объясняет почему особенно не стоит обольщаться перспективами золотого века алгоритмов, который наступит еще довольно нескоро.

Если вы знакомы с темой алгоритмов и искусственного интеллекта исключительно по панически-восторженным новостным заголовкам про беспилотные автомобили — эта книга идеальный способ наверстать упущенное: лаконичное, логически точное повествование, много запоминающихся баек по теме и ни одной формулы на 300 страниц текста, которые прочитываются за пару вечеров.

Тем же, кто хоть немного интересуется «компьютерной» темой, эта книга вряд ли расскажет что-то концептуально новое, а большая часть иллюстративных примеров — проблема вагонетки, теорема Байеса, Ватсон в передаче «Джепарди!» — покажутся очень знакомыми именно в этом контексте. Тем не менее, очень приятно получить текст, который почти в развлекательном формате дает сводную «таблицу» состояния айти-технологий на 2019 год. Его можно смело подкидывать в виде подарка своим родственникам-луддитам или неопределившимся знакомым абитуриентам.


(П.С. To give credit where credit's due — большое спасибо переводчице книги Юлии Плискиной — что очень редко бывает с технической и околотехнической литературой, к переводу текста нет ни единой претензии.)