Сліпобачення

— Ты не додумываешь до конца, — продолжил Каннингем. — Мы говорим не о тупом зомби, который ковыляет, вытянув руки, и сыплет теоремами. Интеллектуальный автомат сольется с фоном. Он будет наблюдать за окружающими, имитировать их поведение, вести себя, как все. И все это — совершенно не осознавая, что делает. Не сознавая даже собственного существования.
— Да зачем ему? С какой целью?
— Когда ты отдергиваешь руку от открытого огня, какая разница, поступаешь ты так от боли, или потому, что так требует поступать алгоритм обратной связи в случаях, когда тепловой поток превышает критическое значение? Естественному отбору плевать на цели. Если мимикрия увеличивает выживаемость, отбор даст преимущество хорошим лицедеям перед неудачниками. Продолжай так достаточно долго, и никакое разумное существо не сумеет выделить зомби из толпы себе подобных. — Снова молчание. Я прямо-таки слышал, как он пережевывает мысль, — Оно сможет даже участвовать в разговорах вроде нашего. Сможет писать письма родным, изображать реальные эмоции, ни в малейшей мере не воспринимая собственного существования.
— Не знаю, Роб. Это выглядит как-то…
— О, мимикрия может оказаться не идеальной. Зомби станет слишком говорливым или будет скатываться временами до многословных лекций. Но так и настоящие люди поступают, верно?
— И, в конце концов, настоящих людей не остается. Только роботы, которые делают вид, что им не все равно.

Эволюция лишена предвидения. Свои цели вырабатывает только сложная система. Мозг лжет. Контуры обратной связи возникают для поддержания стабильности сердцебиения; потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, и алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм – она начинает моделировать процесс моделирования, пожирает все больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, множится и ничего не производит, кроме собственных копий. Надпроцессы расцветают как опухоли, пробуждаются и называют себя «я».

Постепенно система слабеет и замедляется. Теперь даже на восприятие уходит куча времени – на то, чтобы оценить сигнал, пережевать и принять решение на манер разумного существа. Но когда на твоем пути грохочет потоп, а из густой травы набрасывается лев, новомодное самосознание становится непозволительной роскошью. Ствол мозга работает в меру сил: видит угрозу, перехватывает управление и реагирует в сотню раз быстрее, чем жирный старикашка, восседающий в директорском кресле наверху. Но с каждым поколением становится все труднее обходить эту… скрипучую неврологическую бюрократию

Самоодержимое на грани психоза «я» растрачивает энергию и вычислительные мощности. Шифровики в нем не нуждаются, они более экономны. С их примитивной биохимией и небольшим мозгом, лишенные инструментов, корабля и части собственного метаболизма, они все равно делают нас, как паралитиков. Прячут речь на видном месте, даже когда вы знаете, о чем они говорят. Используют против вас ваши же когнитивные процессы. Путешествуют между звездами. Вот на что способен интеллект, не обремененный разумом.

Потому что «я» – это не рабочий разум, понимаете? Для Аманды Бейтс сказать: «Я не существую», – бессмыслица. Но, когда то же самое повторяют процессы в глубине ее мозга, они лишь докладывают, что паразит сдох, сообщают о том, что свободны.

Каждый пианист знает, что лучший способ испортить выступление – следить за движениями пальцев. Каждый танцор и гимнаст понимает, что тело должно действовать само, без участия разума. Каждый водитель прибывает на место, не запоминая ни остановок, ни поворотов, ни дорог, которыми добирался. Все вы лунатики, когда взбираетесь на пики познания или в тысячный раз корпите над рутинным делом. Просто лунатики!

И не поминайте кривую обучения. Даже не пробуйте говорить о месяцах старательных тренировок, ведущих к въевшемуся в плоть мастерству, или о годах кропотливых опытов, которые венчает перевязанная ленточкой эврика. Что с того, если уроки ты усваиваешь в сознании? Разве это доказывает, что нет иного пути? Эвристические программы на протяжении столетия обучаются только на основе опыта. Машины освоили шахматы, автомобили научились водись себя сами, статистические алгоритмы ставят проблемы и предлагают эксперименты для их разрешения. И вы по-прежнему считаете, что единственный путь к обучению лежит через разум? Да вы – кочевники каменного века, впроголодь живущие в саванне, отрицая даже возможность сельского хозяйства, потому что ваши предки довольствовались охотой и собирательством.