Выбор по Тьюрингу

— Ради национальной безопасности можно предать друга?
— Если вы хотите так поставить вопрос — да, я считаю, что можно.
— Бедная Шелли, вы живете в прошлом. Национализм, ура-патриотизм, размахивание флагами для вас важнее личной чести, важнее всего. Вы не понимаете, что этот мелочный национализм умер, что теперь речь идет о всемирном национализме. И «холодная война» тоже умерла, Шелли, а скоро, я надеюсь, отомрут всякие войны. И мы наконец-то будем свободны от гнёта военных. Давно окаменевших, вымерших — но слишком глупых, чтобы лечь в могилу. — глава 43

Все. Конец. Кровь стучала в висках. У него было ужасное чувство, что его предали. Он абсолютно ничего для нее не значит. Всего лишь бесплатный репетитор, – а может быть, таким способом она просто расплачивалась за его уроки? Никогда она не воспринимала его всерьез, никогда не испытывала того, что испытывал он. Брайан со стыдом понял, что его щенячья влюбленность была абсолютно односторонней. Она не разделяла ее, может быть, даже вообще не догадывалась о чувстве, которое поглотило его целиком.
Дрожащими от гнева и унижения пальцами он стер программу вместе с предательскими голосами, уничтожил весь файл, потом заново отформатировал диск, чтобы запись никогда нельзя было восстановить. Но этого ему показалось мало. Он разыскал все задания, которые выполнял за нее, и стер их с диска. Стер файл, где были записаны все ее сообщения. Руки у него тряслись, на глазах стояли слезы ярости. Любовь превратилась в ненависть, привязанность – в обиду на предательство. Дрожащими руками он схватил клавиатуру и замахнулся, чтобы запустить ею в экран.
Нет, это сумасшествие. Он швырнул клавиатуру на стол, выбежал из комнаты, пробежал по коридору, ворвался на кухню и некоторое время стоял там, стиснув кулаки, сотрясаемый противоборствующими чувствами. Его взгляд упал на вешалку для ножей. Он схватил самый большой и попробовал ногтем лезвие, испытывая острое желание погрузить нож в ее тело. И еще раз, и еще.
Убить ее? О чем он думает? Неужели эти простейшие, примитивные эмоции могут управлять его действиями? Что стряслось с его разумом, с его интеллектом? Все еще дрожащей рукой он повесил нож на место и стоял у кухонной раковины, невидящими глазами глядя в окно.
«У тебя есть мозги. Мозги! Пошевели ими! Или же дай своим чувствам испортить всю твою жизнь. Убей ее, насладись местью, потом сядь в тюрьму за убийство. Пожалуй, не самая лучшая идея».
Но что произошло? Почему эмоции вытеснили разумное мышление?
Одна из субъединиц взяла управление на себя, вот что произошло. Надо только вспомнить, как устроено сознание, как оно работает. Оно состоит из множества субъединиц, которые сами по себе абсолютно лишены интеллекта. Какой там пример приводил отец, когда это растолковывал? Вождение машины. Субъединица сознания способна вести машину в то время, как само сознание занято другим. Оно берет управление на себя только тогда, когда случается что-то необычное. Сознание похоже на человеческое общество, где все составляющие его элементы сотрудничают друг с другом. А тут одна глупая субъединица взяла управление на себя и начала командовать. Тупая, неразумная субъединица, у которой вместо мозгов половые железы и которая знает только ревность, ярость, обиду. И чтобы она управляла его жизнью?
– Ну уж дудки!
Он открыл холодильник, достал банку лимонада, открыл ее и залпом выпил почти половину. Теперь он чувствовал себя спокойнее и рассудительнее. Он понял, что произошло: одна часть его мозга взяла управление на себя и подавила все остальные. Не существует ничего похожего на одно главное "я", как бы легко ни было в это поверить. Чем больше он изучал, как работает разум, тем больше убеждался, что каждый человек представляет собой что-то вроде комитета. Мозг состоит из множества крохотных животных – протоспециалистов, вот как они называются. Животное-голод берет управление на себя, когда нужно найти пищу. Животное-страх – когда надвигается какая-то опасность. А животное-сон сменяет их каждую ночь. Это как кольцо царя Соломона. Все эти механизмы, которые открыли Лоренц и Тинберген. Сложные сети нервных центров, отвечающих за голод, половое чувство, самозащиту, – сети, которые создавались сотни миллионов лет. Они есть не только у пресмыкающихся, птиц и рыб, но и в далеких уголках его собственного мозга.
И вот сейчас в нем взяло верх животное-секс – вон оно чавкает и пускает слюни. Примитивная система, гнездящаяся далеко внизу, в стволе мозга, – вот с чем он имеет дело!
– Это не я! – громко вскрикнул он, стукнув кулаком по столу так сильно, что ему стало больно. – Не весь я! Только одна, особенно глупая, но сильная часть. Сплошные яйца без головы!
Нет, он не животное в течке. У него есть разум, почему он им не пользуется? Как мог он допустить, чтобы управление взяла на себя какая-то глупая субъединица? Где был тот главный распорядитель, который должен был оценить ее по достоинству и поставить на место?
Он отправился к себе в комнату, по дороге прихлебывая лимонад. Сел за компьютер и открыл новый файл – «САМОКОНТРОЛЬ». Потом откинулся на спинку стула и стал размышлять дальше.
Большинство мыслительных процессов происходит бессознательно. Чтобы эффективно функционировать, почти все субъединицы в мозгу Брайана должны быть автономными – такими же самостоятельными, как рука или нога. Когда он ребенком учился ходить, на первых порах это, наверное, получалось у него очень плохо – он спотыкался и падал. Потом, по мере того как он учился на ошибках, стало получаться лучше. Старые субъединицы, которые ходили плохо, понемногу вытеснялись или подавлялись новыми, которые ходили хорошо, работали автоматически, не требуя осознанных команд. «Сколько их, этих субъединиц! – подумал он. – А кто же ими управляет?» Сейчас ими, похоже, никто не управляет. Пора взять управление на себя, усилить самоконтроль. Теперь он сам должен решать, какой из субъединиц предоставить действовать. Главным распорядителем должно стать это таинственное, отдельное от них внутреннее "я" – центральный штаб, который соответствовал бы самой сущности сознания Брайана.
– Такая машина-распорядитель не помешала бы и всем этим глупым программам искусственного интеллекта, – сказал он и поперхнулся глотком лимонада.
Неужели все так просто? Неужели только этого не хватает, чтобы все части головоломки встали на место? Лаборатории, где занимаются искусственным интеллектом, – в Амхерсте, Северо-Западном университете, Технологическом институте на Кюсю – битком набиты множеством интересных систем. Логические системы, системы распознавания слов, самообучающиеся системы на нейронных сетях, – каждая решает свои собственные задачи и делает это своим собственным способом. Одни умеют играть в шахматы, другие – управлять механическими руками, третьи – планировать капиталовложения. Все работают по отдельности, каждая сама по себе, – и ни одна не способна думать по-настоящему. Потому что никто не знает, как заставить все эти полезные части работать заодно. Чтобы создать искусственный интеллект, нужно что-то вроде этого внутреннего "я". Какая-то центральная машина-распорядитель, которая связала бы все субъединицы в одну работающую систему.
Не может быть, чтобы это было так просто. Не может существовать такого "я", которое бы всем управляло, потому что в сознании нет никаких реальных людей, а есть только субъединицы. Значит, это "я" не может быть каким-то одним устройством – потому что ни одно устройство не может быть для этого достаточно умным. Значит, "я" должно быть чем-то вроде иллюзии, создаваемой деятельностью еще одного коллектива субъединиц. Иначе чего-то все равно будет не хватать – распорядителя, который распоряжался бы этим распорядителем.
– Нет, не проходит. Я это пока толком не додумал. Придется еще поработать.
Он сохранил файл с этими заметками – и тут заметил, что на диске остался еще один файл «КИМ». Контрольная работа для Бетсера. У нее есть копия, но она ничего там не поймет, не говоря уж о том, чтобы объяснить, когда ее спросят. Может, стоит сохранить этот файл – в конце концов, если бы не она, ему бы так и не пришла в голову эта мысль о программе-распорядителе? Ну нет! Он ткнул клавишу DELETE, и файл исчез, как и все остальные.
В заключение он заблокировал компьютер, чтобы тот не отвечал на звонки с ее телефона. Но этого мало – она может позвонить из автомата. Он изменил программу – теперь компьютер не будет отвечать ни на какой звонок, ни от кого, отныне и навсегда.
Он долго сидел усталый, с сухими глазами, переживая горечь предательства.
Больше с ним никогда ничего подобного не случится. Никто больше не станет ему так близок и дорог, чтобы получить возможность сделать больно. Он будет думать только об этой программе-распорядителе для искусственного интеллекта, попробует добиться, чтобы она работала, и не будет вспоминать о Ким. И вообще о девушках. Больше никогда с ним ничего подобного не случится. Никогда.