Охота на электроовец. Большая книга искусственного интеллекта. Том 1

В 1 томе рассматривается история создания искусственного интеллекта на основе изобретения компьютеров, программирования игр и создания нейросетей на принципах функционирования нервной системы и нейронов в мозгу животных и людей. Книга написана доступным языком, приводимая информация понятна как «технарям», так и «гуманитариям».

Предисловие. В последнее время тема искусственного интеллекта (далее ИИ) стала широко обсуждаться и сквозить чуть ли не из каждого чайника и утюга. Захотелось разобраться для себя, в чем весь шум? После ряда просмотренных видео-передач, вышел на полуторачасовую беседу на канале «Вселенная Плюс», где В. Г. Сурдин и А. М. Семихатов общались с автором данной книги. Сергея Сергеевича более темпераментные и опытные в общении на камеру собеседники задавливали, хоть и делали это, как мне кажется, не специально. Но Марков сумел выдержать натиск и не спеша, объяснил позицию по отношению к ИИ, попутно рекламируя свою книгу.

Внешняя характеристика книги. Читал электронный вариант. Работа богато иллюстрирована. В основном это ч/б юмористические, но со смыслом рисунки. Мне не понравились. Кроме них есть различные таблицы и графики, фотографии некоторых ученых и различных машин. Из 568 стр. основной текст с 9 по 491 стр. До этого довольно развернутое оглавление, а потом указатель и источники. Читается может быть и не легко, но интересно. Причем автор старался сложные вещи объяснить доступным языком, о чем он и предупреждает во введении. Я не всегда пытался вникать в детали решения математических задач, но таких случаев не так и много по книге. Они на самом деле подвластны уму тех читателей, для которых математика закончилась со школой.

Характеристика содержания. Автор подошел к предмету исследования капитально, начав с … Древнего мира. Казалось бы, где ИИ, а где античность? Но дело в том, что нам привычные счеты (скорее всего для многих молодых людей счеты уже ни фига непривычные), это есть своеобразный родоначальник искусственного интеллекта. Так что, если когда-то ИИ достигнет уровня самоосознающей себя личности, должны появиться те ИИ, которые будут возмущаться их родству со счетными костями (как это делают некоторые люди, считающие, что они не могли произойти от обезьян). Книга разделена на 3 части.

Первая – «История думающих машин». Вот здесь как раз рассказано о счетах с рисунками и фото древних артефактов. Следующим этапом стала разработка автоматизированных счетных машин в XIX в. Но основой им послужили создание автоматизированных ткацких станков во Франции. Станки должны были работать на основе перфокарт, затем в Англии додумались использовать их для вычислений. Все это было очень ограничено, делалось на индивидуальные средства отдельных гениев, и общество со скепсисом принимало такие разработки. Например, во времена Николая I и в России поступило предложение в Академию наук о создании вычислительной машины, но идея была отвергнута как бредовая. К концу XIX в. ситуация меняется, начинают появляться аппараты в экономической сфере, которые ведут подсчет и анализ больших баз данных.

Следующим этапом стало развитие систем управления артиллерийским огнем на кораблях в 1-ой пол. ХХ века. Специально остановлюсь, потому что обычно при обсуждении создания компьютеров, упускают военную составляющую. Что автор этому уделил внимание, от меня отдельное спасибо. Дело в том, что уже в первые года столетия дистанция боя достигала 4 – 5 км. При таких расстояниях эффективный огонь можно было вести только при централизованном управлении огнем орудий корабля. Для этого в ведущих странах мира стали разрабатывать машины управления огнем. Первенство, как всегда для начала столетия заняла Англия. Однако при прочтении может сложиться мнение, что только у англичан были такие «машинки». Нет, в реалии их чуть позднее, но все равно в рамках одного времени придумали и русские, и немцы, и др. К II Мировой войне дистанции морского боя убежали за 10 км. Кроме того, чтобы прицелиться, нужно было учитывать скорость движения своего и вражеского корабля, скорость ветра, магнитное отклонение Земли, ее кривизна и еще до кучи факторов. Не то что все это непосильно было вычислить людям. Но на это требовалось время, которое в бою крайне ограничено. Поэтому с дальномерного поста, напоминающего коробку с тубусами, в глубь корабля информация поступала в центральный артиллерийский пост управления (ЦАП), где и стояла вычислительная машина, быстро делавшая расчеты и выдававшая точные данные до цели. Тоже самое и по отношению к противовоздушному огню. Судя по результатам боев, наилучшие протокомпьютеры были созданы немцами. Автор не объясняет каким образом, но чуть позднее описанных флотских аппаратов, начали создавать первые компьютеры. Скорее всего, специалисты были в курсе, по крайней мере теоретических принципов работы вычислительных устройств в ЦАПах. В итоге в 40-ых годах первые компьютеры создают в Америке, и спустя несколько лет в СССР.

Далее эволюция компьютеров рассматривается в рамках второй части, посвященной играм. Здесь автор также подходит скрупулезно, начиная вообще с истории игр. Оказывается, игры в кости и «крестики и нолики» появились очень давно. Да и в те же шашки любили «резаться» и египтяне и тем более римляне. Спрашивается – а игры какое имеют дело к ИИ? – Непосредственное! Даже программа игры в «крестики и нолики» для компьютера не такая простая вещь. Поэтому создавая подобные игры, программист «заставляет» думать машину. Шашки, конечно же на порядок сложнее крестиков. Впечатлила схема вероятностей ходов. Ну шахматы это уже вообще запределье какое-то. Что здесь важно отметить. До прочтения я думал, что компьютер обыгрывает гроссмейстеров только за счет перебора всех вариантов ходов за доли секунды. Но это так не работает! Оказывается, даже современным самым суперскоростным компьютерам пришлось бы годами просматривать варианты! Тогда как?

Здесь логически автор переводит читателя к третьей части – «Нейронные сети и глубокое обучение». Еще в середине ХХ в., когда только создавались первые компьютеры, ученые сообразили, что тупой перебор даже в рамках вычислений, не то что игр, это путь в никуда. Нужно заставить машину думать, как человеческий мозг. И ученые обратились к соответствующим знаниям в медицине. Дается широкий экскурс в историю изучения мозга и нейрофизиологии (и других смежных научных дисциплин, которые долго перечислять). Это было интересно, но я не всегда улавливал суть. Работы по медицине даже в таком усеченном варианте мне тяжело даются. Используя эти знания, ученые-программисты смогли к 60-ым гг. создать первые нейросети.

Что самое интересное. По большому счету книга рассказывает не столько о самой истории создания ИИ, сколько о людях это делавших. Автор дает пространные биографии и характеристики ученым. Это увлекательное чтиво! Здесь есть все – и любовь, и драма, страсть, страх, ненависть. Что-то читается со смехом, в других случаях хочется даже расплакаться. Казалось бы, зачем столько уделять внимания посторонним вещам? Только после прочтения я понял. Когда ты имеешь представление о человеке, который сделал очередное открытие на пути к созданию ИИ, то лучше усваиваешь материал. Абстрактные математические решения персонифицируются. Ты уже понимаешь, ага – это тот первый компьютер, идея которой пришла Джону Атанасову, когда он остановился на трассе в штате Иллинойс, чтоб выпить стакан бурбона, и несясь со скоростью более 100 км/ ч его накрыло, вернее он понял, что нужно делать.

Положительные стороны книги. Меня восхитила исключительная дотошность автора. Можно ведь было просто перечислять, что первые вычислительные машины стали создавать в XIX в., потом были такие-то и такие изобретения, они сделаны вот этими товарищами. Книга, наверное, вышла бы в страниц двести. Но Марков старается учесть все детали и каждое свое суждение подкрепляет ссылками. Список источников с 517 по 565 стр. содержит 1224 ссылки! Причем в подавляющем объеме это иностранные источники. С точки зрения историка, автор проделал колоссальную историографическую работу. К слову сказать, книгу автор писал в течении 5 лет. Неудивительно!

Причем он старался как можно ее оживить. С каким азартом я читал о «схватках» лучших игроков шашек с компьютерами! А битва Г. Каспарова! Я помню эти баталии по статьям в газете «Советский спорт», которую выписывал отец. Папа лежит на диване и зачитывает в слух интервью с гроссмейстером после одного из первых его поединков, а мы с мамой внимательно слушаем. Потом, уже учась в институте, где-то в новостях прошло сообщение, что Каспарова наконец обыграл компьютер. Марков детально, интригующе и драматично описывает эту борьбу. Скажу так, что хоть победа ИИ над человеком объективно обусловлена, но IBM создали машину в единственном экземпляре именно для победы над Каспаровым. Сразу после игры они разобрали машину и отказались от матча реванша, зато стоимость акций компании сразу подскочила.

В работе очень много приведено цитирований из воспоминаний. Даже удивительно, о чем люди только не пишут. Но еще более удивительно, что все это издается в виде книг и находит востребованного читателя. Хотя все логично, просто я привык читать воспоминания, связанные с историческими науками и событиями.

Отрицательные стороны книги. Они проистекают из достоинств, и существенно не влияют на положительное восприятие работы. Мне кажется, автор слишком увлекался и судьбами ученых и иными научными направлениями, порой вставляя то, что совершенно ненужно. Например, рассказывая о личной жизни Розенблатта (внесший весомый вклад в создание ИИ), он упоминает, что в его доме жила с мужем Ив Седжвик

сегодня известна в качестве одного из крупных теоретиков феминизма, а также как литературовед, литературный критик, культуролог, писательница, поэтесса, эксперт в области гендерных и пионер в области квир-исследований [queer studies] (области науки, занимающейся исследованием вопросов, связанных с сексуальной ориентацией и гендерной идентичностью, обычно фокусирующейся на лесбиянках, геях, бисексуалах, трансгендерах, гендерной дисфории, асексуалах, ищущих [questioning], интерсексуальных людях и соответствующих культурах)

Т.к. данная особа больше не упоминается, спрашивается, а зачем нужна была сия вставка с перечислением псевдонаучных исследований психически больных людей на сексуальной почве? Часть из перечисленного впервые прочел, и близко не имею понятия, о чем это, но точно не об ИИ.

Когда читал о том, как выясняли принципы работы мозга, открывали нейроны, меня не покидала мысль, что каждое из задетых автором направлений является, как минимум научной дисциплиной, максимум целой наукой, по которой написано масса трудов. Возникает резонный вопрос – насколько точно автор отобразил эти сведения? Я сомневаюсь, что он рассказал все верно, и что читая это врач, даже не являясь специалистом в области нервной системы или мозга, но имея гораздо более подготовленный багаж знаний, не найдет ошибок в этих рассуждениях. Косвенным свидетельством моей правоты служит упомянутые машины управления корабельным огнем. Видимо по этому вопросу автор смог подчерпнуть информацию только по английским устройствам времен IМВ, и не стал вопреки своим правилам указывать отечественные разработки в этом направлении. Но не исключаю, что он просто об этом не знал и не задумывался.

По итогу вы меня спросите – а где искусственный интеллект, каков вывод? Ответ надо ожидать во втором томе. Пока возьму паузу, через месяц – два вернусь, и когда прочту, отвечу.

Подзаголовок: исчислено, взвешено, разделено

Да уж, эта книга мне запомнится надолго. И читал я её около месяца. В самом конце автор написал вот что:

Учитывая объём книги, я отдаю себе отчёт в том, что большая часть читателей, дочитавших текст до этого места, возможно и вовсе будет машинами. В принципе, одной из целей создания этой книги было помещение её текста в обучающую выборку больших языковых моделей. Кто знает, может быть моя книга и вовсе первая из книг, созданных (в том числе) для читателей-машин.

Вы будете смеяться, но я прочитал :)))

Дело в том, что мне несказанно интересна тема. Как хотите, а у биологии есть неустранимые недостатки и ограничения, так что я совершенно уверен, что когда-нибудь нам на смену должно прийти нечто более современное и совершенное, и сегодняшние исследования в области искусственного интеллекта есть шаг в том направлении. Я был бы благодарен Сергею Маркову, если бы он смог написать покороче. Например, рассказывать биографии всех замечательных людей можно было бы и не настолько детально. И начинать линии повествования вполне можно не от Царя Гороха. Некоторые страницы просмотрел по диагонали, поскольку такие подробности рассчитаны на того, кто реально работает в области ИИ, а не для простого пенсионера. Однако прочитал. Пропустил мало -- если соотнести к необъятному размеру текста.

Многие темы были чрезвычайно интересны. Например, мне впервые толково рассказали, в чём же заключается метод обратного распространения ошибки. Двадцать авторов до этого момента "объясняли" примерно такими словами: ну вы понимаете сравниваем выход с точным значением и корректируем параметры так, чтобы компенсировать расхождение. И один только Сергей Марков взял на себя труд рассказать, как для этого используется метод градиентного спуска и как надо его модифицировать, чтобы можно было работать с негладкими функциями. Ну и много чего ещё он рассказал интересного и полезного.

Кстати, развитие ИИ идёт во многом по заветам Дарвина. Поскольку связной общей теории нет, а есть только отдельные куски такой теории (которую полностью, может быть, и вовсе никто и никогда не построит), исследователи продвигаются по наитию, методом проб и ошибок. Точно так же действует и дарвиновская эволюция. Удачные решения развиваются дальше, неудачные (которых намного больше) вымирают. При этом архитектура системы со временем усложняется, из неё выделяются отдельные узлы... в общем, похоже, что когда-нибудь всё это дело разовьётся в настоящий электронный мозг со своими специализированными отделами. Эволюционным путём возникнут какие-нибудь мозжечки, зоны Брока и Вернике и т.п. Однако ставлю рубль, что это не будет копия какого-либо биологического мозга. Всё будет в нём по-другому, не как у нас. Будет лучше, чем у нас. Когда мы дойдём до жизни такой и какова будет жизнь последних белковых людей, сказать не могу, однако всё к тому идёт. Думаю, до торжества ИИ общего назначения (Artificial General Intelligence, AGI) мне дожить всё же не суждено. Но будем иметь в виду, что всего несколько лет назад я не мог представить себе, что буду реально беседовать с программой о чём-то осмысленном... Прямо хочется прожить подольше -- из чистого любопытства.

Книга, кстати, вполне свежая. Самая поздняя дата из тех, что упоминает автор, -- октябрь 2023. Можно считать, что я прикоснулся к переднему краю науки и технологии. Хотя не сомневаюсь, что при нынешнем темпе движения вперёд, то, что я прочитал -- уже во многом день вчерашний. Тут каждый год имеет значение.

В целом, книга отличная. Своеобразный юмор автора, может быть, и не всем придётся по душе, но мне понравился. Если бы книга была железобетонно-серьёзной, прочитать её было бы невозможно. Картинки Олега Добровольского прекрасны, а в особенности -- эротически выглядящая обложка :)))

Из-за необъятного объёма не могу рекомендовать книгу многим, но фанатикам вроде меня прочитать её смысл есть.

Отдельно передам большой и горячий привет Татьяне Владимировне Черниговской. Вот ей точно надо это прочитать, а то она уже лет 20 всё талдычит одно и то же: дескать, ничего-то мы не знаем, ничего не понимаем, машина никогда не станет способна к творчеству, что мне подтвердил сам далай-лама и римский папа. Много что мы знаем. Много что понимаем. Много чего достигли, и достигнем ещё большего. А творчество машины можно легко увидеть уже сейчас, надо всего лишь посмотреть.

Вот давайте вместе и посмотрим: Kandinsky 3.1. "Слона на скаку остановит и хобот ему оторвёт"

Кандинскому 3.1 от Сбера потребовалось всего несколько минут, чтобы это создать. Не знаю как кому, а лично мне нравится. Можно спорить, насколько это произведение можно считать шедевром, но своеобразная аллегоричность налицо. Может быть, это, кроме прочего, ещё и новое слово в слоноведении :)))

Ну и надеюсь, что машины когда-нибудь создадут общество более умно устроенное, чем то, что досталось нам. За это просто хочется выпить коньяка.

Сергей Марков. Охота на электроовец

О чем. О принципах функционирования, сопровождающих мифах и страхах, ошибках в восприятии, оценках и недооценках искусственного интеллекта, практик машинного обучения, технобудущего и его адептов.

Структура. В двух томах. Том 1 1. Договоримся об определениях. 2. Сквозь тьму веков. История думающих машин. 3. Машины, которые играют в игры, и игры, в которые играют машины. 4. Нейронные сети и глубокое обучение. Том 2 5. Предвестники весны искусственного интеллекта. 6. Час настал. Да грянет бал! 7. Легенда о големе: ИИ, захватывающий мир. 8. Контуры будущего: задачи сегодняшнего и завтрашнего дня.

Почему интересна. Подробное описание ИИ, его создания и современного состояния, перспектив и рисков, с ним связанных.

Для кого. Для начинающих изучать ИИ.

Уровень. Любители, продвинутые.