Homo Deus. Cilvēces īsā nākotne

Представление, будто бессознательным алгоритмам никогда не угнаться за гениальной человеческой мыслью, – не что иное, как самообман. Сегодняшний научный ответ на эту пустую мечту может быть сведен к трем простым положениям:

1. Организмы суть алгоритмы. Каждое животное, включая Ното Sapiens, это собрание органических алгоритмов, сформированных естественным отбором за миллионы лет эволюции.

2. Алгоритмические вычисления не зависят от материалов, из которых сделан калькулятор. На каких бы счетах вы ни считали деревянных, железных или пластмассовых, — если к двум прибавить еще два, получится четыре.

3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, чего неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы в углеродной или кремниевой среде?

В мифе о райском саде людей карают за их любопытство и желание обрести знание. Бог изгоняет их из Эдема. В мифе о вулсторпском саде никто не карает Ньютона – как раз наоборот. Благодаря его любопытству человечество глубже постигает Вселенную, становится более могущественным и еще на шаг приближается к технологическому раю. Учителя во всех уголках мира рассказывают ученикам легенду о Ньютоне, чтобы поощрить любопытство, подразумевая, что стоит нам накопить достаточно знаний, и мы сумеем сотворить рай на Земле.

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число π. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все бóльшей точностью рассчитывает число «пи». Ведь такова была священная миссия, возложенная на него Создателем.

Таким образом, датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными. Всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение. Но стоит нам, людям, утратить нашу функциональную значимость для сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных.

Великие проекты человечества XX века – борьба с голодом, эпидемиями и войной – ставили своей целью гарантировать универсальную норму благосостояния, здоровья и мира для всех без исключения. Проекты века XXI – обретение бессмертия, счастья и божественности – также предполагают облагодетельствование человечества в целом. Но поскольку эти проекты нацелены на то, чтобы превзойти норму, а не сохранить и гарантировать ее, они могут привести к созданию новой касты сверхлюдей, которая откажется от своих либеральных корней и будет обращаться с обычными людьми не лучше, чем европейцы XIX века с африканцами.

До сегодняшнего дня высокий интеллект всегда шел рука об руку с развитым сознанием. Только сознательные существа могут выполнять задачи, требующие большого интеллекта, такие как игра в шахматы, вождение автомобилей, диагностика заболеваний или выявление террористов. Однако сейчас мы разрабатываем новые типы бессознательного интеллекта, которые могут выполнять такие задачи гораздо лучше, чем люди. Ведь все эти задачи основаны на распознавании образов, и бессознательные алгоритмы могут вскоре превзойти человеческое сознание в распознавании образов. Это поднимает новый вопрос: что из двух действительно важно, интеллект или сознание? Пока они шли рука об руку, обсуждение их относительной ценности было просто времяпрепровождением для философов. Но в двадцать первом веке это становится актуальной политической и экономической проблемой. И трезво осознавать, что, по крайней мере для армий и корпораций, ответ прост: интеллект обязателен, а сознание необязательно.