Искусственный ты. Машинный интеллект и будущее нашего разума

Величина Φ вполне может оказаться маркером сознания – характеристикой, говорящей о том, что к системе следует отнестись с особым вниманием, как к потенциальному носителю сознания.

Понятно, что одного только уровня Φ недостаточно. Более того, поскольку исследования Φ до сих пор ограничивались биологическими системами и существующими компьютерами (а это не слишком удачные кандидаты на обладание сознанием), пока слишком рано говорить, является ли Φ необходимым условием искусственного сознания.

На мой же взгляд, высокий уровень Φ недостаточен, чтобы считать искина обладающим сознанием.

ОИТС предсказывает не только что эти системы обладают сознанием (что было бы нормально), но и что они могут обладать неограниченно более высоким уровнем сознания, чем люди

Вопрос искусственного сознания в этом контексте сводится к тому, обладают ли машины макросознанием, в отличие от сознания с более низким уровнем Φ, демонстрируемым обычными объектами.

она (теория  Тонони) наделяет небольшим сознанием все, что имеет хотя бы минимальный уровень Φ. В определенном смысле это сродни доктрине панпсихизма.  Согласно этой доктрине, даже микроскопические неодушевленные объекты испытывают переживания, хотя и очень слабые.

К счастью, уже придуманы более простые метрики, которые аппроксимируют Φ

К несчастью, расчеты, необходимые для вычисления Φ даже небольшой части мозга, такой как клауструм, практически неподъемны. (То есть точно рассчитать Φ можно лишь для чрезвычайно простых систем.)

показатель обобщения информации позволяет сравнивать друг с другом искины с разной архитектурой. Наличие количественной меры для феноменологического сознания ИИ было бы невероятно полезным как при распознавании самосознающих искинов, так и при оценке влияния, которое определенный уровень сознания оказывает на остальные свойства системы (такие как безопасность и интеллект).

Ответ Тонони состоит в том, что сознание требует высокого уровня «обобщения информации» в системе. Информация обобщается, когда состояния системы сильно взаимозависимы и характеризуются густой паутиной обратных связей. Уровень обобщения информации может быть измерен и обозначается заглавной греческой буквой Φ (фи). В соответствии с ОИТС, зная величину Φ, мы можем определить, обладает ли система сознанием и насколько ее сознание развито.