Воспитание машин. Новая история разума

Нет сомнений, что мир ждут большие изменения -- и скоро. Это будет изменение даже не масштаба промышленной революции. Скорее нас ждёт новая неолитическая революция. Всё, что было прежде, покажется тогда детством цивилизации. Для жизни взрослой наших ограниченных способностей просто не хватит.

Первую треть текста можно смело выкинуть. Там автор с бухгалтерской точностью разжёвывает историю от каменного топора до атомного реактора. Всё это довольно скучно. В конце концов он переходит к делу, а именно к тому, что вычислительных ресурсов для искусственного разума сегодня нам наконец уже хватает. Однако

Это, конечно, не означало автоматически появления искусственного интеллекта, как он когда-то задумывался его отцами-основателями. Для этого у человечества пока что банально не хватает соответствующих знаний, о чем мы еще поговорим в главе 5.

Заявление о банальности оказалось неожиданным. Вот уж если что-то и есть в нашем мире наименее банальное, так это именно дефицит знания. Напечатать денег или наклепать микропроцессоров -- вот банальность. Умножение знания -- самая сложная деятельность из всех, которые можно себе представить. Сергей же Шумский увлечённо рассказывает нам о торговле и рекламе. О науке почти ничего нет, а именно в этом, по-моему, искусственный интеллект и будет наиболее полезен. Ладно, каждому своё. Немного раздражает категоричность суждений. Пару раз в книге читаем "этого мы пока не знаем", но в основном всё выглядит непреложной истиной. Думаю, будущее покажет множество ошибок в предсказанном.

Так или иначе, с большинством рассмотренных идей я согласен. На все эти темы я достаточно думал, так что ничего особенно нового в книге не обнаружил.

Идея о воспитании машин и мне тоже кажется единственно правильной. Программирование как таковое уже в прошлом, предел его возможностей будет достигнут скоро. Все программы давно написаны, теперь машинам пора начать думать.

Для воспитания машин поначалу понадобятся люди. Одни (наставники) -- это лучшие специалисты в своих областях. Они передадут машине свои бесценные знания, и их-то роботы и вытеснят из общества, когда им станет нечему от них учиться. Наставники сыграют роль провокаторов, пятой колонны человечества. Они, разумеется, найдутся. Очевидно, одних знаний и умений мало. Требуется мораль, этика. Поэтому будут ещё нужны воспитатели. Эти станут прививать машинам человеческие ценности... Разговоры о ценностях, честно говоря, настораживают. В последнее время я часто их слышу, и многие, на мой взгляд, пропагандируют вовсе не общечеловеческое единство, не мир и не дружбу. Что делать, например, с ценностями Хамаса? Если роботы унаследуют нынешние разнообразные "ценности с национальной спецификой", ничего хорошего это миру не сулит. Одни интеллекты не смогут понять других.

Вопрос о том, кто кем управляет -- мы технологиями или технологии нами -- как мне кажется, не имеет отношения к делу. Я и так не управляю ничем. Будет ли мной управлять искусственный разум, или хозяева и менеджеры Амазона с Алиэкспрессом, или какой-нибудь труп в холодильнике, это, с практической точки зрения, без разницы -- если, конечно, они не устроят геноцида. Устроить геноцид все они способны в равной мере, причём, хорошо понимающий последствия своих действий искусственный разум, наверное, учинит какую-нибудь глобальную гадость как раз с наименьшей вероятностью.

К проповедуемой цифровой демократии у меня есть свои претензии. Идея хороша, но реализуема ли? Похоже, более вероятно соорудить цифровую охлократию... а ещё проще строится автократия. Кажется, мир к ней и так идёт вопреки здравому смыслу.

Нет сомнений, что искусственному разуму нужна и искусственная психика. Сергей Шумский думает, что эта психика должна быть построена по образу и подобию нашей. Сомневаюсь. Психика, которую мы унаследовали от бесчисленных предков в процессе эволюции, хорошо годится не только и не столько для взаимной любви и альтруизма, сколько для жульничества, войны и тому подобных дел. Все мы потомки хитрецов и убийц -- и наша психика всё это умеет, но ограничивается принуждением со стороны закона. Законы же, типа Азимовских, слишком просты чтобы работать в реальном мире.

Интересно, конечно, было бы узнать, чем это всё кончится. То ли коммунизм настанет, то ли апокалипсис, вероятности того и другого абсолютно неизвестны. Хочется сказать "поживём -- увидим", но нет, мне не суждено, поэтому и читаю такие книги, см. заголовок моего текста. Книга вошла в шорт-лист премии "Просветитель" 2023 года. Уважаю эту премию, это ещё одна причина прочитать.

Напоследок мелкий спойлер. Понравился небольшой расчёт с точностью до порядка величин:

Символы, в отличие от образов, обладают небольшим разнообразием. Например, буквы могут кодироваться всего лишь пятью битами (так как 25 = 32). Зато комбинациями компактного набора символов можно закодировать практически неограниченный набор высокоуровневых понятий, определяющих любую распознанную сцену. В приведенном выше примере чтения текста этим понятиям соответствуют слова и их сочетания. Сознательное мышление вообще тесно связано с языком и представляет собой последовательные операции с символьной информацией. Минимальный акт сознания длится около 0,5 с []. За это время мы успеваем распознать примерно одно слово в среднем из 5 букв, или около 25 бит. Соответственно сознательное мышление (около 50 бит/с, или 10 байт/с) гораздо – в миллионы раз! – медленнее бессознательного. Но именно с такой скоростью мы разговариваем, думаем, читаем, печатаем, решаем задачи []. Сознательное мышление определяет скорость обучения, передачи знаний. Ведь бóльшую часть наших профессиональных знаний мы получили в процессе коммуникации с другими людьми. Скорость обучения особенно важна, так как она ограничивает объем наших знаний. Даже если учиться непрерывно по 16 часов в день (то есть 2 × 107 с в год) в течение 100 лет, максимальный объем знаний составит 1011 бит, или 1010 байт. Иными словами, знания каждого из нас составляют не более 10 ГБ, и их можно было бы записать на небольшую флешку.

([*]: здесь была ссылка на источник)

Очевидно, искусственный разум нам просто необходим -- и уже сегодня.

В целом книга хорошая, но могла бы быть много лучше.

Хорошая книга от профессионала про тотальную цифровизацию, новую полувиртуальную реальность и ИИ - как неизбежное последствие, максимально адаптированная под широкий круг читателей.

В основном автор рассуждает о двух вещах: о том, почему появление ИИ - обязательная, неотвратимая технология, которая должна замкнуть текущую итерацию цивилизации и вывести на новый уровень, и о том, как до этой технологии добраться. Потому что для наступления неотвратимости очень много чего должно быть сделано.

Есть интересные выкладки о том, как и почему человечество переходило от одного типа цивилизации к другому, например, от аграрной к индустриальной, почему замедляется или возрастает темп прироста населения, как человечество добивается резкого технологического скачка и чем это обосновано. Слегка затронуты темы социальных проблем, которые неизбежно появятся при замещении части работников ИИ, но автор не особенно их развивает. Хотя идея налога на внедрение ИИ вместо людей и частичной компенсаторной пенсии людям, которые не смогут переучиться, честно говоря, мне показалась более здравой, чем довольно популярные мечты о безусловном базовом доходе.

В основном же книга посвящена рассуждениям о том, что такое ИИ, как нашу жизнь и цивилизацию меняют нейросети, из-за чего эта технология так важна, почему сильный ИИ пока даже на горизонте особо не маячит и каким образом мы всё-таки к нему придём. Шумский считает, что разгадка лежит в моделировании человеческого мозга через реверс-инженеринг в компьютерных сетях, что, в принципе, выглядит правдоподобно: ограничений по вычислительной мощности для того, чтобы научить машины именно что мыслить самостоятельно, давно нет, а технология так и увязла в распознавании образов. По авторским прогнозам, ИИ появится лет через сорок, а вот прямо сейчас, зная об этом, необходимо подготовиться к очередному крупному изменению цивилизации - и социально, и экономически, и психологически. Плюс много времени уделено тому, почему машинам обязательно надо на этапе архитектуры встраивать наши, человеческие понятия о морали, а также то, как именно этого можно достичь.

Небольшой объём книги позволяет с ней познакомиться буквально за один вечер, при этом информации содержится много, она тщательно отобрана и подана в максимально концентрированном виде.

У Шумского есть ещё одна книга на смежную тему, про разработку сильного ИИ и гипотетические методы, которые могут помочь преодолеть нынешние архитектурные ограничения - "Машинный интеллект", лично мне она по содержанию понравилась больше. Но с точки зрения повествования "Воспитание машин" кажется более приятным и лёгким: нет формул, нет больших технических выкладок, текст легко воспринимается и не перегружен лишними деталями. Да, в какой-то мере он может показаться несколько поверхностным, но, как я понимаю, "Воспитание машин" и не претендует на то, чтобы обеспечить полное погружение во все технологические бездны. Это скорее как знакомство с перспективами, которых стоит ждать в будущем, где ИИ будет неотъемлемой частью нашей жизни.

Несмотря на то, что каких-то новых горизонтов книга мне не открыла, потому что многое из того, что здесь рассказано, я от самого Шумского же и слышала в периодически проводимых им лекциях, всё равно было интересно. Это взвешенная, здравая аналитика ИИ, лишённая истерического восторга от грядущей вот уже почти сингулярности или бесконечного нытья об ужасной социальной несправедливости в командах разработки. Если интересно, почему в ИИ сейчас вкладывают столько денег и зачем каждый второй IT-стартап пытается влезть именно в эту отрасль, "Воспитание машин" будет отличным выбором.