The Knowledge Illusion: Why We Never Think Alone

1. Что мы знаем
Мышление как коллективное действие

Человеческий мозг – не настольный компьютер для хранения больших объемов данных. Разум – это гибкий инструмент для решения возникающих проблем, позволяющий извлекать лишь самую полезную информацию для принятия решений в новых ситуациях. Поэтому непосредственно в наших головах хранится сравнительно мало подробной информации об окружающем мире. В этом смысле люди похожи на пчел, а общество – на улей: носителем интеллекта являются не столько мозги индивидуумов, сколько коллективный разум. Полагаться приходится не только на знания, хранящиеся в наших черепных коробках, но и на сведения, хранящиеся в других местах: на то, что «знает» наше тело, на информацию, которую можно почерпнуть в окружающей среде, а главное – на знания других людей. Когда все это удается объединить, человеческая мысль иногда достигает невероятных высот. Но при этом она оказывается продуктом некоего сообщества, а не какой-то от-дельной личности.

Мы живем в иллюзии знания во многом потому, что не можем провести четкую грань между тем, что находится внутри и вне наших голов (хотя бы потому, что никакой четкой линии разграничения между ними нет).

мы фактически позволяем своей группе думать вместо нас

мы постоянно живем в рамках ошибочных установок. Мы просто игнорируем эту сложность и переоцениваем собственные знания об устройстве мира, то есть живем в убеждении, что знаем, как он устроен, хотя чаще всего это не так. Мы говорим себе, что понимаем, что происходит вокруг нас, что наши мнения основываются на наших знаниях, а наши действия базируются на обоснованных предположениях, хотя это опять же чаще всего не так. Мы миримся со сложностью, будучи не в состоянии понять ее. Это и есть иллюзия понимания.
2. Почему мы думаем

Если бы мы эволюционировали в условиях, в которых вместо умения выбирать эффективные действия требовались бы какие-то другие способности, то человеческий разум, наверное, опирался бы на какую-то другую логику, отличную от существующей. Если бы наша эволюция проходила в мире, где вознаграждались бы победители в азартных играх, мы, вероятно, безошибочно рассуждали бы о плотности распределения вероятностей и об уравнениях статистики. Если бы мы эволюционировали в мире, в котором поощрялось бы дедуктивное мышление, мы все, подобно Споку, были бы виртуозами по части логических заключений. Но мы в большинстве своем не сильны в этих делах. Вместо этого мы развивались в мире, где правит логика действий, и именно поэтому такой вид мышления составляет основу того, что делает нас людьми.
3. Как мы думаем

Логическое мышление человека строится на причинно-следственных связях

предикативные логические рассуждения удаются нам лучше, чем диагностические

Повествование – естественный для нас путь представления причинно-следственного анализа последовательности событий, поэтому мы просто окружены разными поучительными историями.

Людям повсюду видятся сюжеты

Ведь историю о том, как Авраам приносит в жертву своего сына Исаака на горе Мориа, мы столетие за столетием пересказываем совсем не для того, чтобы пополнить свой информационный багаж сведениями об Аврааме и его родственниках, а для того, чтобы извлечь из нее урок пре-данности Богу в любой жизненной ситуации.

Американцы рассказывают историю о «сынах свободы», в 1773 г. бросавших за борт ящики с британским чаем в Бостонской гавани, именно как историю сопротивления принуждению. Однако когда об этом же рассказывали британские торговцы чаем, чей товар был испорчен, у них получалась назидательная история о шайке воров и бандитов, которая должна была стать полезным предупреждением человечеству. Из сказанного следует, что сюжеты обычно принадлежат не человеку, а со-обществу и они тесно связаны с укоренившимся в нем мировоззрением.
4. Почему мы заблуждаемся

Нормальное человеческое мышление просто не рассчитано на понимание некоторых вещей.

люди знают не все. На самом деле – далеко не все. Однако мы знаем достаточно для нормальной, обычной жизни. По причине ограниченности наших знаний есть предел и у наших представлений о происходящих изменениях.

Напомним, что иллюзия глубины объяснения состоит в том, что людям кажется, что они прекрасно понимают причинно-следственные связи, между тем на самом деле это далеко не всегда так. Иллюзия – продукт интуитивного сознания; мы автоматически и без усилий представляем себе тот или иной предмет или ситуацию. Но оценка собственных знаний обычно разрушает наши иллюзии. Это помогает объяснить, почему не все люди подвержены ложному восприятию.
5. Мышление с участием тела и окружающего мира

Уверенность в том, что «мир ведет себя нормально», оказывает людям неоценимую услугу. Это означает, что нам не нужно все помнить, поскольку почти вся нужная информация хранится в окружающем нас мире.

Очень часто информация, на которую мы реагируем, находится не в нашей голове, а в окружающем нас мире. Это касается не только поимки мяча или вхождения в дверь. При мытье посуды куча грязных тарелок сама указывает нам, что делать; если тарелка блестит, значит, она чистая; а отсутствие стекающей воды информирует нас о том, что тарелку можно убрать
6. Мышление с помощью других людей

Люди умеют не только распознавать намерения других людей, но обладают способностью, которой нет ни у какой другой когнитивной системы, ни у машины, ни у животного: человек может сознательно направить внимание на тот же объект или событие, на которые обращает внимание другой человек.

Еще одно необходимое условие касается того, как мы храним информацию. Знания сообщества распределяются между его членами. Ни один человек не обладает всей полнотой знания. Те знания, которые имеются лично у меня, необходимо соединить с информацией, которая есть у других людей. Мои познания должны заключаться не столько в фактах, сколько в ссылках и указаниях на места размещения.
Оборотной стороной иллюзии знания является то, что экономисты называют проклятием знания (94). Обычно если человек что-то знает, ему трудно представить себе, что кто-то этого не знает.
7. Мышление с помощью технологий

Поскольку мы живем в обществе, члены которого пользуются знаниями совместно, отдельный человек не всегда способен различить, хранятся ли те или иные знания в его голове или же в чьей-то еще. Это порождает иллюзию глубины объяснения: я считаю, что понимаю некоторые вещи лучше, чем в действительности, потому что при оценке уровня моего собственного понимания проблемы я учитываю знания других людей.

Техно логический прорыв произойдет не в области создания машин со сверхчеловеческой вычислительной мощностью, а в области средств, обеспечивающих непрерывный обмен информацией в укрупняющихся сообществах носителей знаний и облегчающих взаимодействие между ними. Умные технологи не столько замещают людей, сколько объединяют их. Интернет наглядно показывает нам, что подлинный суперинтеллект существует именно в сообществе.
8. Размышления о науке

Отношение к науке связано отнюдь не с рациональной оценкой фактических данных, поэтому предоставление информации не может повлиять на соответствующие настроения в обществе. Это отношение формируется под воздействием множества контекстуальных и культурологических факторов и по большому счету вообще не подвержено переменам.

Трудно изменить убеждения, поскольку они переплетены с нашими ценностями и самоидентификацией и их разделяет наша община. Более того, имеющиеся в нашей голове причинно-следственные модели примитивны и часто просто ошибочны. Вот почему так трудно искоренить ложные представления. Иногда община может считать, что наука ошибается, особенно в тех случаях, когда наши причинно-следственные модели способствуют такой точке зрения. Иллюзия знания означает, что мы редко и неглубоко проверяем свои представления. Таков рецепт формирования ненаучного мышления.
9. Размышления о политике

<...>свое мнение выразили 76 % респондентов, но лишь 55 % знали, о чем они говорили.

Возможно, для снижения уровня высокомерия в суждениях и, значит, для снижения уровня поляризации мнений следует побудить людей оценивать данную стратегию, исходя не только из их собственных интересов и опираясь не только на их опыт. Объяснения на основе причинно-следственных связей, возможно, являются единственной формой мышления, которая позволяет разрушить иллюзию глубокой обоснованности объяснений и в какой-то мере изменить отношение людей к проблеме.

<...>есть ценности, которые мы воспринимаем как сакральные, и никакие споры не смогут заставить нас отказаться от них.
10. Новое определение разумности

«Венчурные капиталисты опираются не на идеи, а на команды» (с) Эвин Рейберу
11. Как сделать людей разумными
см. раздел про обучение и методику обучения.
12. Как принимать более разумные решения

<...>намного легче и эффективнее изменить среду, нежели человека

Незнание не есть источник блаженства, но оно не должно становиться и источником страданий. Незнание – неизбежный фактор в жизни человечества, это наше естественное состояние. Мир настолько сложен, что ни одному индивидууму не дано его познать. Отсутствие знаний может обескуражить человека, но основная проблема не в этом, а в том, что мы не осознаем свое незнание