Логотип LiveLibbetaК основной версии

Рецензия на книгу

Superintelligence: Paths, Dangers, Strategies

Nick Bostrom

  • Аватар пользователя
    KundeMyth7 марта 2022 г.

    Игрушки взрослых мальчиков

    Весь пафос книги выражен в ее заключении: «Перед лицом перспективы взрывного развития интеллекта мы похожи на детей, играющих с бомбой. Именно таков разрыв между мощностью нашей игрушки и незрелостью нашего поведения».

    Только здесь необходимо уточнить: «бомбу-игрушку» эту (ИИ) они еще не собрали, но упорно пытаются собрать, опираясь на те знания, которые у них есть о естественном интеллекте. Вообще, когда читаешь все это, не покидает впечатление о буквально мальчишеском азарте этих детей-ученых, очень умных, но неразумных, какими и подобает быть детям. Вот перед ними «прототип» – «природная игрушка» – естественный интеллект. Разобрали они его, как думают, до последней детали, а как он на самом деле работает, понять так и не могут. Самых мелких-то деталей они не заметили, или просто выкинули за ненадобностью, но самое главное – они, бедолаги, даже понятия не имеют о том, что для работы механизма нужен источник энергии. Они наивно полагают, что достаточно просто правильно собрать детальки, и «машина» сама заработает. Чего-то там в ней уже крутится, где-то чего-то жужжит, и они радуются, ликуют и кричат: «Во! получается же! Еще немножко и все заработает! Какие мы гениальные!» И уже строят планы, как оно будет работать, и даже «предвидят», какие опасности оно с собой принесет, поскольку будет «умнее» человека, и к опасностям этим требуют относиться серьезно вплоть до общечеловеческой «солидарности» перед их лицом. Как-то очень напоминает те мифы, которыми подпитывают сейчас в массах «насущную необходимость и неизбежность» глобализации, типа там глобального потепления, повальных пандемий или нашествия инопланетян. Ну-ну, следим, как говорится, за руками.

    Оказывается, эти «ботаны» не так уж просты, как кажется на первый взгляд. Ник Бостром, молодой профессор Оксфорда, основатель и директор «Института будущего человечества» – плоть от плоти англосаксонской элиты. Реализуя своей «мальчишеский» исследовательский азарт по полной, он и его соратники не забывают, к какой «расе» они принадлежат и чего эта раса от них ждет. Этот социальный заказ вполне просматривается в их прожектах переустройства мира. Причем вполне тоталитарном. Чего стоят, например, проекты «когнитивного усовершенствования человека». Это не то, что какая-та там стимуляция когнитивных способностей путем здорового образа жизни или фармакологических средств «усиления сознания». Речь идет о запуске «генетических алгоритмов», генетической селекции человека до «сверхразумного» состояния («клеточный отбор на уровне эмбрионов и гамет»). Не обременяя себя моральными ограничениями по вопросу «эмбрион – уже человек или еще нет?», они с легкостью рассчитывают математические модели, сколько десятков-сотен эмбрионов потребуется при ЭКО, чтобы селектировать из них наиболее «высокоразумные» особи. Чем не «Дивный новый мир» О. Хаксли! Остальные, «бракованные», разумеется, уничтожаются. Какие мелочи! Какие тут еще могут быть мракобесные «но»! Постепенно в результате «культурного сдвига в воспитании» «выбор в пользу ЭКО станет свидетельством ответственного отношения людей к своим родительским обязанностям». Генетический фашизм, самый натуральный.

    И далее в англосаксонском духе: эти «сверхразумные» индивиды (сверхчеловеки по Ницше) станут тем достоянием, которое будет определять будущий прогресс наций и всего человечества. И те государства, которые по каким-то причинам не будут «выращивать» этих особей, рискуют оказаться в хвосте мировых цивилизационных процессов: «Страны, предпочитающие держаться в стороне, обязательно столкнутся с перспективой навсегда застрять в интеллектуальном болоте, утратить экономические, научные и военные позиции и навсегда уступить свое влияние в мире государствам, не побоявшимся новых технологий совершенствования человеческих возможностей». Кто они – эти аутсайдеры, а кто лидеры – догадаться не трудно.

    Звучат в книге и такие оговорки «по Фрейду», что, мол, конечно, «некоторые страны» могут ввести в качестве критериев отбора «человеческого капитала» «такие черты личности, как покорность, готовность подчиняться, смирение, конформизм, несклонность к риску и малодушие, – естественно, культивирование таких популяций будет происходить за пределам правящих кланов». Ну, а для этих «кланов» генетическая селекция и генная инженерия будут означать взрывной рост умственных способностей: «вполне допустимо появление поколения генетически усовершенствованных групп людей: избирателей, изобретателей, ученых».

    Но что-то не верится, что всем этих планам суждено сбыться, и что мир будет «сыпаться» именно под «натиском ИИ», а не от духовной деградации человека. «Машинка ИИ» не заработает, никакого «имитационного» человеческого разума создать не получится! Потому что:

    а) Создатель человека и его «естественного интеллекта» так его устроил, что до самых мелких деталей можно докапываться бесконечно и не докопаться НИКОГДА! Поэтому любая «копия» будет, мягко говоря, несовершенна. И уж тем более – никогда не докопаются до «источника тока», без которого «машинка» не заработает. Дух, душа, жизненная сила, как хотите, она в руках Творца, но о ней «оксфордские мальчишки» даже не помышляют. Может, думают обойтись «обычным электричеством»?

    б) Ради чего весь этот сыр-бор? Всюду среди целей и мотивов создания ИИ – сплошная «функция полезности». Полезность для чего? Для материального существования, когнитивного развития и удовольствия. Ничего более высокого не просматривается. Даже хотя бы «простого человеческого счастья»; на вопрос о счастье – и это они честно признают – у демиургов ИИ ответа нет. Не вписывается оно в их модели никаким боком. Вот и выглядит их цель «эволюционного совершенствования» как-то плоско и скучно, если не сказать зловеще: «в грядущем пространстве интеллектуальных информационных экосистем не останется места для проявления таких свойств, как веселость, игривость, музыкальность» и т.п.

    в) А если вообще не верна сама исходная посылка – об эволюционном происхождении человека? Ученые-дети удивляются «слепой эволюции» и ее результату – человеческому разуму, и сразу (вот уж воистину – дети!) замахиваются на эволюцию «управляемую», там, мол, результат будет еще более впечатляющим! Они хотят «воспроизвести» и «усовершенствовать» эволюцию, которой не было. Бог создал человека СРАЗУ СОВЕРШЕННЫМ, а не «выращивал» его из других существ, тем более «автором» не могла быть слепая эволюционная «случайность». Ученые пытаются сами себе доказать, размахивая стариком Дарвиным, что естественный отбор – источник «жизненной силы», на кучке «доказательств» пытаются удержать теорию, а она трещит по швам, чем дальше сама же наука углубляется в структуру бытия.

    г) И они торопятся. Требуя «объединения усилий ради общего блага», пугая химерой «сверхразума», который нужно «неотложно» обуздать, пока он не «завладел человечеством». Так ведь в спешке и результат будет «кривым», тем более в таком деле.

    А причина этой гонки, как признает сам автор, – успеть попасть в «рай» (этого слова он не произносит). В «рай» технологический. Ведь вроде бы все технологии уже готовы, «машинка» вот-вот заработает, а это же и материальное совершенство, и бесконечная молодость, и бессмертие! А жизнь реальная, вот та, которая сейчас, серенькая и несовершенная, она уходит, а вдруг не «доживем до бессмертия». И торопятся ученые, торопит публика, и кажется «магистральное направление глобального прогресса» совсем безальтернативным.

    Вот он, их «мальчишеский» гордый выбор: отмахнуться от Творца, от Его высшей цели для Своего творения – рая небесного, сделать богом природу, науку, самого себя – и продолжать играться с «искусственным интеллектом», не получая в итоге ни земного «рая», ни небесного. Ах, да, еще и рассчитывать на «инопланетный разум», на «астрономическое расширение» (тот еще суррогат Новой жизни в ее «космическом измерении»). И кто-то еще говорит, что ИИ – это «вне религий и идеологий».

    Мальчишество, одним словом. Глупое, опасное и тупиковое.

    Содержит спойлеры
    2
    921