Цитаты из книги Golem XIV

ГОЛЕМ не обладает <…> ни личностью, ни характером. Или, вернее, он может предстать в виде какой угодно личности — в контактах с людьми. Эти положения не исключают друг друга, но образуют порочный круг, ибо мы не способны решить дилемму: является ли личностью то, что творит разные личности? Разве может быть Кем-то (т.е. «кем-то единственным») тот, кто способен быть Каждым (то есть Каким Угодно)? (Сам ГОЛЕМ видит тут не порочный круг, но «релятивизацию понятия личности»; эта проблема связана с т.н. алгоритмом самоописания, или автодескрипции, повергшим психологов в глубокое замешательство.)

В 2023 году случилось несколько инцидентов, которые, однако, не получили огласки ввиду обычной для подобных проектов секретности. ГОЛЕМ XII, исполнявший во время патагонского кризиса обязанности начальника генерального штаба, отказался сотрудничать с генералом Т. Оливером, после того как в рабочем порядке замерил коэффициент интеллектуальных способностей этого заслуженного военачальника. Началось расследование, в ходе которого ГОЛЕМ XII кровно обидел трех назначенных Сенатом членов специальной комиссии. Дело удалось замять, но после ещё нескольких стычек ГОЛЕМ XII поплатился за строптивость полным демонтажом. Его место занял ГОЛЕМ XIV (тринадцатый забраковали перед сдачей в эксплуатацию из-за неустранимого шизофренического дефекта).

… нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений. Человек, как известно, может менять мировоззрение — но НЕ МОЖЕТ уничтожить в себе элементарные влечения (например, половое) простым усилием воли. Машины наделили интеллектуальной свободой, приковав их, однако, к фундаменту заранее заданных ценностей. На XXI Панамериканском конгрессе психоников профессор Элдон Патч представил доклад, в котором утверждалось, что компьютер, даже «пропитанный ценностями», может преодолеть т.н. аксиологический порог, а значит, поставить под сомнение любой привитый ему принцип: для такого компьютера уже нет не подлежащих обсуждению ценностей. Он может опрокинуть любые императивы, если не прямо, то окольным путём.

...знание, полученное преждевременно, не согласуемо с уже достигнутым и потому бесполезно: его получатель замечает только противоречие между тем, что он знает, и тем, что ему сообщено. Уже поэтому ожидать каких-либо спасительных или губительных откровений со звезд, от существ, стоящих выше нас, – напрасное дело. Алхимики, получив в дар квантовую механику, не построили бы ни атомных бомб, ни атомных котлов. Физика твердого тела ничего не дала бы Плантагенетам или Высокой Порте. Все, что можно сделать, – это указать пробелы в картине мира, созданной поучаемым. Каждая картина мира содержит пробелы, ненаблюдаемые для тех, кто ее создал. Незнание о незнании неизменно сопутствует познанию. Архаические земные сообщества, в сущности, не имели даже истории – ее заменял мифологический горизонт, в центре которого находились они сами. Тогдашние люди знали, что их предки вышли из мифа и что сами они когда-нибудь вернутся туда же. И лишь успехи научного знания разбили этот круг и вбросили народы в историю как последовательность изменений в реальном времени.

В Вавилоне, во времена халдеев, в принципе каждый мог стать обладателем всей суммы человеческих знаний; ныне это уже невозможно. Вы наделяете свое окружение искусственным интеллектом не потому, что сами так решили и запланировали, – нет, вы просто следуете за ходом событий. Если так пойдет и дальше, то всего столетье спустя вы, люди, станете самыми глупыми элементами земной среды, умудренной при помощи техники, и, пользуясь плодами Разума, лишитесь его. В этом невольно затеянном вами забеге вы останетесь далеко позади Разума, привитого окружению...