Сліпобачення

– Ти чула коли небудь про «китайську кімнату»? – запитав я.
Вона похитала головою.
– Тільки краєм вуха. Це щось давнє, чи не так?
– Їй не менше століття. Насправді це софізм, аргумент, що гіпотетично може спростувати правильність тестів Тьюрінга. Якогось типа лишають у зачиненій кімнаті. Крізь щілину в стіні він отримує аркуші з дивними закарлючками. Також він отримує доступ до бази цих закарлючок і переліку правил, які вказують, як поєднувати їх між собою.
– Граматика, – сказала Челсі. – Синтаксис.
Я кивнув.
– Штука в тому, що піддослідний гадки не має, чим є ті закарлючки чи яку інформацію вони можуть містити. Знає тільки, що коли натрапить на значок «дельта», то мусить взяти п’яту і шосту закарлючки з файлу «тета», а тоді об’єднати їх з іншою карлючкою з файлу «гамма». Так він вибудовує відповідь і записує її на листочку, який всовує назад у щілину і відпочиває до наступного сеансу. «Повторювати, доки м’ясо не стане просмаженим і соковитим».
– І так він підтримує розмову, – здогадалася Челсі. – Гадаю, китайською наш дослід називався б іспанською інквізицією.
– Саме так. Ідея полягає в тому, що ти використовуєш алгоритми зіставлення зі зразками, щоб брати участь у розмові, коли й гадки не маєш, що кажеш . Залежно від того, наскільки ґрунтовні твої правила, ти можеш пройти тест Тьюрінга. Тебе можуть вважати розумним і говірким, а ти навіть не знатимеш мови, якою спілкуєшся.
– Це і є синтез?
– Лише та його частина, що передбачає спрощення семіотичних протоколів. І лише теоретично. По суті, я отримую дані кантонським діалектом, а відповідаю німецькою мовою, тому що я радше провідник, аніж учасник бесіди. Але принцип ти зрозуміла.

Но, на мой взгляд, если автомат и лишен чего-то, так это эмпатии: если ты не чувствуешь ничего сам, то не можешь сочувствовать другому, даже если пытаешься что-то такое изобразить. И в связи с этой темой интересно отметить количество социопатов в высших эшелонах власти. Заметила, как превозносятся безжалостность и предельный эготизм в стратосфере, но на уровне земли всякого, кто проявит те же черты, закатывают в тюрьму к реалистам? Словно само общество видоизменяют изнутри.
– Да ну тебя! Общество всегда было изрядно… Погоди, ты хочешь сказать, что корпоративная элита лишена разума?
– Господи, нет! Далеко не лишена. Вероятно, они только ступили на эту дорогу. Как шимпанзе.
– Да, но социопаты плохо вписываются в общество.
– Те, кого распознают, не вписываются, но они по определению – третий сорт. Остальные слишком умны, чтобы попасться, а настоящий автомат справился бы еще лучше. Кроме того, когда у тебя достаточно власти, необязательно вести себя как все: все начинают вести себя как ты.

Забудь о разуме, — отозвался он. — Представь, что перед тобой устройство, созданное для слежки за… ну, допустим, космическими лучами. А если ты развернешь его датчики таким образом, чтобы они были нацелены не в небо, а устройству в брюхо? — он продолжил, не дожидаясь ответа: — Оно будет делать свою работу. Измерять космические лучи, хотя смотрит уже не в космос. Будет воспринимать собственные детали в терминах космического излучения, потому что они кажутся ему подходящими, кажутся естественными, потому что иначе оно не в силах смотреть на мир. Но это неверные термины. Поэтому система ошибочно воспринимает сама себя.

Погоди минутку! — возмутилась Бейтс. — Никто из нас там не превращался в марионетку. Мы галлюцинировали, слепли и… и с ума сходили, но в одержимых не превращались. Каннингем покосился на нее и фыркнул. — А ты думаешь, что смогла бы разглядеть ниточки? Думаешь, почувствовала бы их? Да я прямо сейчас могу приложить тебе к затылку транскраниальный магнит, и ты покажешь средний палец, или пошевелишь пальцами ног, или пнешь Сири в пах и будешь клясться могилой матушки, что сделала это исключительно по собственному желанию. Ты будешь плясать марионеткой и божиться, что действуешь по своей воле