Каркас и океан, или Обладает ли ИИ сознанием?
«А чтобы сконструировать рассудок scilicet интеллект, нужно собрать массу необходимых для этого функциональных элементов семантических, семасиологических, синтаксических знаний о мире, правил, по которым соединять элементы, и правил-запретов - и все это под эгидой логики, а также иметь столько сведений, чтобы ими наполнить "океан", по которому сможет плавать корабль "сознания": это Mare Intuitionis, мир бурь и хаоса, подчиненный безумию человека, и если бы мы узнали его вдоль и поперек, то уже сейчас смогли бы стать строителями внечеловеческой сознательной разумности... но не все так просто.» (Станислав Лем. «Сознание и рассудок». 1997)
В 1997 году Станислав Лем написал эссе под названием «Сознание и рассудок». В нём он размышляет о возможности создания разума по принципу механизма, состоящего из отдельных функциональных элементов.
Лем создаёт почти инженерную модель разума и интеллекта, представляя их как механизм, состоящий из отдельных функциональных элементов.
Он разделяет два пласта: с одной стороны — рассудок и интеллект, которые строятся из чётких элементов: семантики (значений), семасиологии (как знаки соотносятся с тем, что обозначают), синтаксиса (правил соединения), плюс набор правил и запретов, и всё это обязательно держится на логике. Это «каркас», на котором держится способность мыслить последовательно.
С другой стороны — Mare Intuitionis, «океан интуиции»: мир хаоса и «безумия человека», пространство нестрогих, бурлящих смыслов, где живёт интуиция. Лем называет его миром бурь — и именно в нём «плавает корабль сознания». То есть рассудок без этого океана — пустая конструкция: ему не хватает содержания, живого опыта, который наполняет систему смыслами. И наоборот, один только хаос интуиции не даст связного мышления. Сознание возникает на стыке строгой логики и этого неупорядоченного, но богатого внутреннего мира.
Слова про «внечеловеческую сознательную разумность» — это одновременно и амбициозный проект, и предостережение: если мы до конца поймём оба этих пласта, то теоретически сможем создать разум вне человеческого формата. Но Лем тут же добавляет скепсис: пока все усилия уходят в связь и сети (в 1997 году это особенно актуально — расцвет интернета, коммуникаций), а сеть сама по себе не порождает мысли. Она передаёт, соединяет, но не создаёт нового смысла. Отсюда его уверенность: «никакая сеть не выскажет вам ни одной собственной мысли или слова».
У Лема «океан» — это Mare Intuitionis, или «океан интуиции». Несмотря на красоту звучания, смысл этого выражения прост: оно охватывает всё, что не укладывается в рамки инструкций. Представьте, что вы собираете пазл. Все элементы на своих местах, все стыки идеально совпадают, и кажется, что картинка готова. Но вдруг вы замечаете, что чего-то не хватает. И дело не в том, что какая-то деталь неправильно лежит, а в том, что общий смысл не тот. Это чувство невозможно выразить формулой или вывести из правил. Однако именно оно придаёт пониманию живость: картинка правильная, но не настоящая, потому что она не ваша.
В этом есть что-то очень знакомое: у Гоголя, например, логика сюжета может быть строгой, а «океан интуиции» — тот самый гоголевский хаос и безумие — даёт ту самую эмоциональную и смысловую глубину. У Сорокина, например, в «Голубом сале,» этот океан вообще выходит на первый план, обнажая тёмные, хаотичные стороны психики, и тогда его логика становится почти фоном.
Вот в этом «океане» и плавает наше сознание — в личном опыте, в воспоминаниях, в тех самых «осадочных» смыслах, которые копятся годами. Когда мы говорим про одиночество, про пропущенный поезд, про внезапную тишину в комнате, мы тащим за собой целую историю. У ИИ этой истории нет. Он может идеально собрать пазл из чужих историй, но не может почувствовать, что в нём чего-то не хватает именно тебе.
Поэтому лемовская фраза про «ни одной собственной мысли» сегодня не про скепсис, а про очень чёткое различение: сеть умеет соединять, перефразировать, имитировать интонацию. Но смысл, который рождается из личного «океана», остаётся человеческим.
Смысл рождается не в генерации, а в выборе и правке. В том, где автор ставит паузу, какой оттенок оставляет, а какой убирает. И этот труд — настоящий, человеческий, даже если часть черновой сборки делает инструмент.
Искусственный интеллект способен создать основу, скорректировать направление мысли, выявить самоуверенность или ошибки, но он не может заменить уникальное личное восприятие. Он не способен проникнуть в твою логику, твой внутренний беспорядок — всё то, что Станислав Лем называет личным «океаном». ИИ, не обладающий сознанием, не обладает человеческим восприятием.
32 понравилось
