Иллюзия знания. Почему мы никогда не думаем в одиночестве

Введение. Незнание и сообщество носителей знаний
Человеческий разум одновременно и гениален, и жалок, он и блестящий, и идиотический. Люди совершают великие подвиги, добиваются выдающихся достижений, иногда, кажется, бросают вызов богам. Путь от открытия атомного ядра в 1911 г. до создания ядерного оружия с мегатонным тротиловым эквивалентом мы прошли всего за 40 лет. Мы подчинили себе огонь, создали демократические институты, побывали на Луне и создали генетически модифицированные помидоры. Но в той же мере мы способны проявлять несусветное высокомерие и полное безрассудство. Каждый из нас то и дело совершает ошибки, подчас иррациональные, но часто просто по причине невежества. Трудно поверить, что люди смогли создать термоядерные бомбы, но, однако же, люди их создали (и даже взорвали, хотя так до конца и не понимают, как они работают). Невероятно, что мы разработали системы управления и построили экономики, которые обеспечивают нам комфорт современной жизни, хотя большинство из нас имеют весьма смутное представление о том, как эти системы функционируют. Пока что человеческое общество в целом функционирует на удивление хорошо, по крайней мере когда мы не облучаем коренное население атоллов.

Человеческий мозг – не настольный компьютер для хранения больших объемов данных. Разум – это гибкий инструмент для решения возникающих проблем, позволяющий извлекать лишь самую полезную информацию для принятия решений в новых ситуациях. Поэтому непосредственно в наших головах хранится сравнительно мало подробной информации об окружающем мире. В этом смысле люди похожи на пчел, а общество – на улей: носителем интеллекта являются не столько мозги индивидуумов, сколько коллективный разум. Полагаться приходится не только на знания, хранящиеся в наших черепных коробках, но и на сведения, хранящиеся в других местах: на то, что «знает» наше тело, на информацию, которую можно почерпнуть в окружающей среде, а главное – на знания других людей. Когда все это удается объединить, человеческая мысль иногда достигает невероятных высот. Но при этом она оказывается продуктом некоего сообщества, а не какой-то отдельной личности.

Ни один человек не способен охватить своим разумом даже простую вещь во всех ее аспектах. Для изготовления и использования даже самых простых объектов обычно требуется сложный комплекс знаний. Мы даже не будем упоминать о по-настоящему сложных вещах, существующих в природе, таких как бактерии, деревья, ураганы, любовь и… процесс воспроизводства. Как все это работает? Большинство людей не сможет объяснить вам, как работает кофеварка, почему клей удерживает листы бумаги вместе или как устроен механизм фокусировки фотоаппарата, не говоря уже о таком сложном деле, как любовь.

Все мы в той или иной степени подвержены иллюзии понимания: думаем, что понимаем, как обстоят дела, в то время как на самом деле уровень понимания ситуации или предмета у нас весьма низкий.

В истории вообще много подобных событий, которые кажутся известными и легкими для понимания, и мы думаем, что хорошо понимаем их, но их истинный исторический контекст совсем иной, нежели мы себе представляем. Неочевидные детали со временем утрачиваются, и параллельно с этим возникают мифы, которые упрощают ситуацию и делают ее описания «легкоусвояемыми», иногда просто в интересах той или иной группы.

Мы не можем понимать все, и здравомыслящему человеку не следует даже пытаться это делать. Мы полагаемся на абстрактные, смутные и непроанализированные знания. Мы знаем, что бывают исключения: встречаются люди, которые хорошо запоминают детали и любят долго говорить о них, иногда чрезвычайно увлекательно. Многие из нас являются специалистами в тех или иных областях, и в них мы много чего знаем, иногда до мельчайших деталей. Но по большинству дисциплин мы располагаем лишь отрывочной информацией, и наше понимание едва выходит за рамки осознания того, что полная информация нам недоступна. На самом деле большинство наших знаний – это практически просто совокупность ассоциаций, связей высокого уровня между объектами или людьми, без какой-либо детализации.

Развитие мышления проявлялось как расширение возможностей совершать более эффективные действия, необходимые для достижения наших целей. Разум позволяет нам выбирать из множества возможных действий нужные, прогнозируя последствия каждого шага и представляя себе, что случилось бы, если бы в прошлом мы совершили какие-то иные поступки.

Наши мыслительные процессы, наш язык и наши эмоции – все это сконструировано Природой так, чтобы мы могли включать логику анализа причин и следствий, которая помогает нам выбирать разумное направление действий.

Секрет наших успехов заключается в том, что мы живем в мире, в котором знания окружают нас везде и повсюду. Они присутствуют в вещах, которые мы делаем, в самих наших телах и рабочих пространствах, а также в других людях. Мы живем в сообществе носителей знаний.

Нет лучшего способа изучить город, чем поездить и походить по нему. Знания о том, как город расположен, какие достопримечательности в нем надо посетить и что можно увидеть с той или иной точки, содержатся в самом городе.

Один и тот же человек может быть экспертом более чем в одной области, иногда даже в нескольких областях, но не во всех и не по всем аспектам данного предмета или темы. Ни один шеф-повар не умеет готовить все блюда. Ни один музыкант не может играть на любом инструменте и музыку любого жанра, хотя некоторые музыканты являются выдающимися и в этом отношении. Никто и никогда не умел делать все.

Всякий раз, когда мы моем тарелки, мы должны благодарить небеса, что кто-то другой умеет делать средство для мытья посуды, а еще кто-то знает, как сделать, чтобы из крана текла горячая вода. На самом деле мы не до конца понимаем это явление.

Наши черепа ограничивают размеры мозга, но не ограничивают объем наших знаний. Разум простирается далеко за пределы мозга, охватывая и тело, и окружающую среду, и других людей, поэтому изучение разума нельзя свести просто к изучению мозга. Когнитивистика как наука не идентична неврологии.

Отдельные люди иногда недооценивают масштабы и глубину своего невежества, но все вместе мы действуем на удивление неплохо. Наши достижения являются самыми выдающимися победами эволюции.

Когда человек лучше понимает самого себя, это помогает ему создать более надежные системы защиты.

Максимальная эффективность обучения достигается тогда, когда мы думаем совместно с другими.

Что мы знаем
Слишком часто наша уверенность в том, что мы знаем, что происходит в той или иной ситуации, в начале бывает гораздо больше, чем в конце.

Такова суть иллюзии глубины объяснения. До того как человек попытается что-то объяснить, ему кажется, что он в достаточной мере понимает предмет, но после объяснения – уже нет. Даже если он во второй раз оценивает свои знания ниже, потому что теперь уже иначе понимает термин «знание», для него все равно оказывается откровением то, что он знает сравнительно мало.

В ходе эволюции мозг стал настолько сложным, что нам даже трудно оценить его сложность.

Фактическая погода в вашей местности зависит от того, сколько времени в последнее время светило солнце, насколько выше (или ниже) уровня моря вы находитесь, есть ли поблизости от вас горы или нет, есть ли поблизости крупные водоемы или нет (они запасают или высвобождают тепло в больших количествах), не было ли поблизости сильных «разовых» явлений погоды (например, ураганов и гроз) и как распределяется давление воздуха.

Существует бесчисленное множество возможных траекторий человеческой жизни, но ту единственную, которой суждено реализоваться, нам предугадать не дано.

Рамсфелд известен, в частности, своей классификацией уровней неизвестности. Существует «известное известное»: это предметы и явления, про которые мы знаем, что мы их знаем. Существует «известное неизвестное»: это предметы и явления, про которые мы знаем, что мы их не знаем. Но существует также «неизвестное неизвестное»: это предметы и явления, про которые мы даже не знаем, что мы их не знаем.

Чтобы полностью понять какой-либо предмет, необходимо понимать все больше и больше, и совокупность всего, что необходимо понять, чтобы достичь полного понимания, нарастает настолько быстро, действительно взрывообразно, что вскоре оказывается больше, чем может охватить человеческий разум.

Мы видим, что люди на удивление невежественны, причем гораздо более, чем им кажется. Мы понимаем, что окружающий нас мир сложен и что никакой ум не сможет охватить его целиком. Так почему же, если мы так невежественны, эта сложность не подавляет нас? Как мы можем о чем-то вещать, считая себя знающими людьми, и воспринимать себя всерьез, если понимаем лишь малую часть того, что следовало бы понимать?
Ответ заключается в том, что мы постоянно живем в рамках ошибочных установок. Мы просто игнорируем эту сложность и переоцениваем собственные знания об устройстве мира, то есть живем в убеждении, что знаем, как он устроен, хотя чаще всего это не так. Мы говорим себе, что понимаем, что происходит вокруг нас, что наши мнения основываются на наших знаниях, а наши действия базируются на обоснованных предположениях, хотя это опять же чаще всего не так. Мы миримся со сложностью, будучи не в состоянии понять ее. Это и есть иллюзия понимания.

Почему мы думаем
Нейрон – это строительный блок гибкой системы приспособления, которую эволюция может использовать для программирования все более и более сложных алгоритмов обработки информации.

Как мы думаем
Иногда бывает трудно однозначно спрогнозировать реакции других людей на наши действия, но все-таки мы делаем это постоянно и в основном успешно. Достаточно спросить что-нибудь мило и приветливо – и это обычно приводит к счастливому согласию, а удачная шутка вызывает (как показывает наш опыт) одобрительную полуулыбку. Люди весьма преуспели в логических рассуждениях, и не только в отношении физических объектов, но и в отношении человеческого поведения.

Людям повсюду видятся сюжеты.

Сюжеты обычно принадлежат не человеку, а сообществу и они тесно связаны с укоренившимся в нем мировоззрением.

Почему мы заблуждаемся
Не существует общепринятого представления об оптимальной диете, о том, как нужно управлять экономикой страны или следует ли (и как именно) нашему правительству принимать участие в событиях на Ближнем Востоке. Сама жизнь и социальные системы устроены сложно, и единого «правильного» способа их понимания не существует. В процессе размышления активно используются догадки и приблизительные представления.

В том небольшом по меркам Природы диапазоне условий, в которых мы живем, наши поверхностные причинно-следственные рассуждения в подавляющем большинстве случаев способны обеспечить нам нормальную жизнь. И это прекрасно, потому что, если бы нам нужно было знать все, мы просто утонули бы в знаниях.

Существуют обстоятельства, требующие более глубоких логических умозаключений. Если мошенник пытается обвести вас вокруг пальца, отвлекая ваше внимание с помощью какой-либо приманки, то разгадать его намерения будет сложнее. Или другой случай: если близкий человек впал в депрессию или ведет себя странно, то, чтобы разобраться в причинах происходящего и понять, что же делать, вам потребуется особая чувствительность и глубина понимания. Увы, большинству людей очень трудно делать правильные выводы в подобных ситуациях. Мошенников вокруг немало, обычно они действуют умело и то и дело облапошивают людей. Печальная правда заключается в том, что людей, которые могут понять и помочь человеку, страдающему от боли, мало и находятся они чаще всего далеко. Большинство из нас рады бы помочь, но обычно дело кончается тем, что нам самим приходится просить помощи – чтобы друзья и члены семьи помогли выяснить, что происходит на самом деле, или чтобы в ситуацию вмешались специалисты. Снова причина кроется в том, что, хотя люди прекрасно владеют навыками логических рассуждений, мы обычно делаем их вскользь, не используя никаких специальных знаний.

Если нашей реакцией на событие управляют смятение и страх, то иногда неторопливое обдумывание ситуации помогает нам успокоиться. Достаточно немного подумать – и мы поймем, что бояться было нечего. Другими словами, иногда решения, к которым мы приходим по наитию, то есть быстро и без усилий, опровергаются выводами, к которым мы приходим путем неторопливых и упорных размышлений. Зачастую размышление заставляет нас усомниться в решении, подсказанном интуицией.

Люди, склонные к обдумыванию, больше зависят от своих мыслительных способностей и предпочитают осознанное самовыражение, а те, кто менее склонен к аналитическому подходу, больше полагаются на свою интуицию.

Люди с высоким уровнем рефлективного мышления (в отличие от большинства) предпочитают подробные описания. Они вообще склонны все объяснять, поэтому естественно будет предположить, что они начинают искать объяснения еще до того, как их об этом попросят. И практически никто из них не подвержен иллюзии глубины объяснения.

Одна из причин возникновения иллюзии глубины объяснения состоит в том, что наша интуитивная система, так сказать, переоценивает свои аналитические способности. Если я спрошу у вас, как работает туалет, ваша интуитивная система немедленно выдаст: «Без проблем, с туалетом у меня нормально. Я пользуюсь им каждый день». Но, если вопрос о работе туалета адресовать вашей мыслительной системе, вы придете в замешательство, потому что на самом деле ваше интуитивное понимание весьма поверхностно.

Мышление с участием тела и окружающего мира
Ни одно животное в ходе эволюции не появилось сразу. Новые виды возникали медленно, постепенно накапливая полезные биологические функции, доставшиеся от предшественников. Первый человек тоже появился не сразу и не полностью сформировавшимся. Люди развились из более простых форм жизни, которые не были способны мыслить, но могли плавать, ползать, искать пищу и размножаться. Для выполнения этих функций они обладали прошедшими естественный отбор специализированными системами, которыми и сейчас пользуются рыбы, насекомые и другие живые существа, включая самого человека. При передвижении животные используют нейронные проводящие пути, сформировавшиеся миллионы лет назад у их далеких предшественников, которые сначала научились плавать, потом ползать, а потом и ходить на все более усложнявшихся конечностях. Кроме того, у древних животных были системы восприятия информации, в ходе эволюции превратившиеся в органы зрения, обоняния и слуха у современных млекопитающих.

В гипертимезиках нас поражает их способность помнить мельчайшие детали собственного прошлого, однако в их восприятии мира нет ничего необычного.

Умственная деятельность не ограничивается только мозгом. Скорее всего, мозг является лишь частью системы обработки информации, в которую входят и тело человека, и элементы окружающего мира.

Эмоциональные реакции оказывают влияние на принятие нами решений. Они определяют, о чем мы думаем и какие опции рассматриваем. Нам приятнее тщательно обдумывать то, что не вызывает страха, и гораздо менее охотно мы думаем о вещах, пугающих нас. Мы предпочтем размышлять о вкусных французских пирожных, а не об отвратительных лужах с грязной водой. В этом смысле эмоциональные реакции не только влияют на мышление, но и способны заменять его.

Когда мы теряем контроль над своими страхами, возникают фобии. Обычно типичные фобии направлены на объекты, которые в нашем доисторическом прошлом представляли опасность: арахнофобия (страх перед пауками), акрофобия (боязнь высоты), агорафобия (боязнь открытого пространства или большого скопления людей).

Мозг, тело и окружающий мир работают совместно, что позволяет человеку запоминать, размышлять и принимать решения. Мышление совершается не только в мозге, а во всей этой системе, с использованием знаний, находящихся в мозговых извилинах, теле и окружающем пространстве, для совершения разумных действий. Иными словами, разум не находится в мозге. Скорее мозг находится в разуме. Разум использует мозг и многое другое для обработки информации.

Мышление с помощью других людей
Ни одна пчела сама по себе не способна выжить и продолжить род. Рабочие пчелы не способны к оплодотворению. Трутни не прокормят себя сами. Матки не способны защитить свое потомство. У каждой особи своя работа, и она выполняет ее хорошо. Рабочие пчелы не знают, что они рабочие пчелы. Трутни не знают, что они трутни. Они просто делают то, на что они запрограммированы процессом эволюции, и вся эта система существует благодаря тому, что каждая особь выполняет свою сравнительно простую функцию в большом и функционально сложном комплексе.

Люди являются самым сложным и сильным видом не только в силу того, что происходит в отдельной голове у каждого, но и в силу того, что множества индивидуумов научились работать вместе.

Наше мышление развивалось как групповое действие, и оно способно работать в сочетании с разумом других людей. Как и в улье, отдельная особь является здесь экспертом в одной области, и образующийся на этой основе командный интеллект не равен простой сумме своих частей, а намного больше ее.

Способность понимать ментальное состояние других людей является критически важным условием совместной работы в большом коллективе.

Возможности человечества постоянно увеличиваются, но не за счет того, что индивидуумы становятся умнее, а за счет того, что наши коллективные замыслы становятся все более сложными, наш коллективный интеллект – все более мощным, тогда как функционирование улья остается практически неизменным уже миллионы лет.

В больницах в наше время тоже обычно используют командный подход к лечению пациентов, подразумевающий совместную работу медиков разных специальностей и званий (врачей, медсестер, студентов, фельдшеров, фармацевтов и менеджеров, организующих медицинское обслуживание). Явного лидера при этом обычно нет, но происходит сбор и отбор экспертного потенциала, в результате чего – в идеале – формируется командный интеллект, превосходящий сумму составляющих его частей. Воздушные лайнеры летают благодаря взаимодействию пилота, второго пилота, авиационных диспетчеров и сложных автоматизированных систем управления современным самолетом, играющих огромную роль в обеспечении полета. В настоящее время очень много важных решений вырабатывается в группах (определение политического курса, вердикт суда присяжных, разработка военных стратегий и подготовка к спортивным состязаниям), поэтому такой подход уже можно считать нормой.

Специалист по физике элементарных частиц понимает, что открытие бозона Хиггса в 2012 г. имело эпохальное значение. Это открытие помогло ученым сделать выбор в пользу наиболее фундаментальной теории, объясняющей, как устроен и работает физический мир. Но кто сделал это открытие? Конечно, следует отдать должное Питеру Хиггсу и Франсуа Энглеру, ставшим в 2013 г. лауреатами Нобелевской премии по физике за вклад в это открытие. Но истина заключается в том, что бозон Хиггса никогда не обнаружили бы, если бы в этом не участвовали тысячи физиков, инженеров и студентов почти из сорока стран. Около 3000 авторов опубликовали множество статей и докладов по ключевым вопросам, которые сделали возможным это открытие, не говоря уже обо всех тех специалистах, которые строили и эксплуатируют суперколлайдер ЦЕРН (стоимостью 6,4 миллиарда долларов), на котором и был обнаружен бозон Хиггса. Ни один человек в одиночку не сумел бы выполнить даже малейшую часть сложнейшей, требующей специальных знаний работы, приведшей к этому открытию. Ноу-хау открытия на самом деле распределено среди тысяч людей.

Люди прилагают меньше усилий для запоминания, если знают, что данный предмет входит в сферу компетенции их партнеров. Иными словами, каждый партнер автоматически «перепоручает» другому хранение и восстановление информации о предметах, относящихся к компетенции последнего. Люди запоминают то, что им следует запомнить в рамках конкретной группы, чтобы внести максимальный вклад в разделение умственного труда. То есть при коллективном запоминании информации мы полагаемся на специалистов в соответствующих областях.

Индивидуальное и групповое мышление взаимосвязаны и границу между ними провести трудно. Если попросить человека выразить в процентах его собственный вклад в групповой проект, то обычно, используя фактор неопределенности, он выставляет себе лучшую оценку, чем заслуживает в действительности, так что сумма таких оценок всегда превышает 100 %!

Склонность преувеличивать свой вклад в общее дело приводит к конфликтам, особенно в тех случаях, когда занижается взнос других членов группы. Работая в группе, мы настолько взаимосвязаны, что определить вклад каждого отдельного сотрудника чаще всего действительно чрезвычайно трудно.

Возникновение иллюзии знания объясняется тем, что мы живем в сообществе носителей информации и не способны отделить данные, хранящиеся в нашей памяти, от фактов за ее пределами. Мы считаем, что вся информация о том, как функционирует окружающий мир, содержится у нас в голове, но на самом деле это не так. Мы используем много данных, взятых из окружающего мира и у других людей. Это в равной степени и достоинство познания, и его недостаток. Основная доля наших знаний хранится в окружающем мире и в нашем сообществе. Для большинства людей понимание ограничивается уверенностью в том, что где-то там, снаружи, знания все-таки существуют. Более образованный человек знает, где нужно искать ту или иную информацию, и только настоящий эрудит действительно хранит в памяти много знаний.

Оборотной стороной иллюзии знания является то, что экономисты называют проклятием знания. Обычно если человек что-то знает, ему трудно представить себе, что кто-то этого не знает. Если я выстукиваю мелодию известной песни, меня иногда чрезвычайно удивляет то, что другие не могут правильно определить, что это за песня. Это ведь настолько очевидно, я просто слышу эту мелодию у себя в голове. Если мне известен ответ на какой-либо вопрос на эрудицию (например, кто исполняет главную роль в фильме «Звуки музыки»), я склонен ожидать, что другие тоже знают ответ. Иногда проклятие знания проявляется в форме ошибочности ретроспективного суждения. Если наша команда только что выиграла важный матч или наш кандидат победил на выборах, мы склонны считать, что с самого начала знали, что эта команда или кандидат и должны были победить и что другие люди тоже должны были ожидать этой победы. Проклятие знания заключается в том, что мы считаем, что те знания, которые есть у нас в голове, есть и у других. Иллюзия знания означает, что мы считаем, что знания, хранящиеся в памяти других людей, есть и в нашей памяти. В обоих случаях мы не способны разобраться, кто что знает.

Разделение когнитивного труда было и остается фундаментальным фактором развития познания. Именно способность обмениваться знаниями позволяет нам летать на Луну, строить автомобили и автострады, взбивать молочный коктейль и снимать фильмы, отдыхать перед телевизором, то есть делать все, что становится возможным благодаря жизни в обществе. Жизнь в коллективе и одинокое существование в условиях дикой природы существенно различаются в отношении комфорта и безопасности, что объясняется разделением когнитивного труда в обществе.

Мы пренебрегаем теми вещами, о которых информированы лишь косвенно – через знания и опыт других людей.

Поскольку мы путаем имеющиеся у нас знания с теми, к которым всего лишь имеем доступ, можно сказать, что мы просто не отдаем себе отчета в том, насколько мало мы знаем. Мы живем с убеждением, что знаем больше, чем на самом деле.

Мышление с помощью технологий
Технологическая революция во многом улучшила нашу жизнь, но и породила тревогу, а иногда чувство безысходности и даже ужас. Перемены в технике приводят к самым разным результатам, и далеко не все из них нам удается предвидеть.

На каждом этапе происходило одновременное изменение орудий труда, культуры, когнитивной деятельности и генов, что создавало новый баланс, обеспечивавший нашим предкам большее могущество для преобразования окружающей среды в соответствии со своими потребностями. Цивилизация стала возможной благодаря новым технологиям, например появлению ирригационных каналов. Цивилизация породила множество разнообразных инструментов уже во времена античности и в конце концов достигла современного уровня с его взрывным развитием информационных технологий, которое началось в середине ХХ в. К счастью или к несчастью, общество и технология всегда подпитывают взаимную трансформацию.

Можно сказать, что люди созданы для восприятия технологических изменений. Наше тело и мозг устроены так, что мы способны использовать новые инструменты в работе, как будто они являются продолжением нашего тела.

Использование технологий – один из ключевых элементов, сформировавших человека.

Нескольких минут просмотра информации на финансовых сайтах совершенно недостаточно, чтобы научиться разбираться в нюансах инвестирования. Но сознание того, что знания со всего мира находятся у вас буквально под руками, порождает ощущение, что все эти знания находятся у вас в голове.

Наша зависимость от умных технологий создает определенный парадокс: по мере ее развития техника становится все более надежной и эффективной, и именно поэтому человек все больше зависит от нее. В итоге концентрация внимания у человека-оператора ослабляется, он отвлекается, самоустраняется, перекладывает всю работу на технику. В самом крайнем случае эта тенденция может привести к тому, что пилотирование тяжелого воздушного корабля превратится в пассивное занятие, подобное просмотру телевизора. Это замечательно – пока не случается нечто непредвиденное. Именно в непредвиденных ситуациях выявляется вся ценность человека с его способностью гибко реагировать на обстоятельства и справляться с незнакомыми ситуациями. Машины не способны на сотрудничество во имя достижения общей цели, они служат всего лишь инструментами. И если человек-оператор перестает осуществлять контроль, то велика вероятность того, что в системе возникнет серьезная авария.

Одним из навыков, формирующихся параллельно с появлением самосознания, является способность размышлять над тем, что происходит. Люди всегда могут наблюдать и оценивать собственное поведение. Они способны абстрагироваться и давать себе отчет в том, что они делают и что происходит непосредственно вокруг них. Более того, люди могут отслеживать и некоторые собственные мыслительные процессы (сознательную составляющую психической деятельности). Если им не нравится то, что они видят, принимаются меры, чтобы изменить ситуацию. Понятно, что эти меры носят ограниченный характер. Скользя вниз по сплошному льду, вы мало что сможете сделать, чтобы остановиться, если у вас нет ледоруба. Если вы охвачены ужасом или страстью, вам очень трудно контролировать эти чувства, но, по крайней мере, у нас есть способность понимать, что происходит (в состоянии бодрствования и ясности сознания). В той степени, в которой мы способны контролировать свои действия (обычно мы ведь не позволяем себе поддаться неудержимому соблазну схватить лежащий перед нами большой кусок шоколадного торта), мы можем и изменять их. В противоположность этому машина всегда подчиняется заложенной в нее программе. Алгоритм может быть очень сложным, в него можно заложить даже умение адаптироваться к изменениям в окружающем пространстве. Однако если разработчики программы не учли какую-то ситуацию, то и машина не будет знать, что делать в случае возникновения таких обстоятельств, и может поступить, с нашей точки зрения, совершенно неправильно. Поэтому критически важной ролью человека является осуществление контроля за работой автоматизированных систем, то есть оператор просто должен находиться на месте при появлении признаков серьезной неполадки. В настоящее время большую проблему представляет невозможность обеспечить одному человеку доступ ко всей информации, необходимой для понимания и управления сложной современной системой. Они же между тем усложняются с нарастающей скоростью. Именно это должно вызывать тревогу.

Каждый из нас может испытать на себе негативное влияние иллюзии знания, однако опыт и знания большого числа людей позволяют преодолеть индивидуальные заблуждения.

Суперинтеллект, изменяющий мир, сосредоточен в сообществе носителей знаний. Технологический прорыв произойдет не в области создания машин со сверхчеловеческой вычислительной мощностью, а в области средств, обеспечивающих непрерывный обмен информацией в укрупняющихся сообществах носителей знаний и облегчающих взаимодействие между ними. Умные технологи не столько замещают людей, сколько объединяют их. Интернет наглядно показывает нам, что подлинный суперинтеллект существует именно в сообществе.

Парадокс в том, что, поскольку удачно разработанную технологию всегда легко использовать, нам кажется, что мы с ней хорошо знакомы. Мы продолжаем ощущать себя знающими людьми, хотя на самом деле уровень понимания нами усложняющихся систем становится все ниже и ниже. Иллюзия понимания становится все сильнее и сильнее. В современном мире для управления своей жизнью или занятия бизнесом необходим постоянный доступ к машинам и интернету. Чем сложнее технология, тем меньше мы знаем о том, что происходит «под капотом». Наша зависимость от специалистов в части обеспечения надлежащего функционирования любой техники становится все больше. Чаще всего это даже хорошо – пока не возникнет проблема. Когда технология выходит из строя (из-за нашего недосмотра, войны или стихийного бедствия), безмятежность, обусловленная нашей иллюзией понимания, вполне может обернуться бедой. Мы оказываемся в растерянности, и тогда в полной мере проявляется наша зависимость от экспертов.
Наша среда больше не подчиняется нам. Мы больше напоминаем шестеренки, взаимодействующие с системами, которые мы не до конца понимаем и поэтому не можем полностью контролировать. Это значит, что мы должны становиться все более бдительными и постоянно помнить, что мы отнюдь не всегда знаем, что на самом деле происходит вокруг нас. В то же время новые технологии обеспечивают нам бесчисленные преимущества: повышение уровня безопасности, сокращение затрат энергии, повышение эффективности и др. По мере того как мы учимся по максимуму использовать преимущества сообщества носителей знаний, в нашем распоряжении оказывается все больше информации и опыта со всего мира.

Размышления о науке
Отношение к науке связано отнюдь не с рациональной оценкой фактических данных, поэтому предоставление информации не может повлиять на соответствующие настроения в обществе. Это отношение формируется под воздействием множества контекстуальных и культурологических факторов и по большому счету вообще не подвержено переменам.

Культурные традиции настолько сильнее знания, что они просто подавляют попытки изменить что-нибудь путем просвещения.

Наши верования и установки не являются только нашими. Они принадлежат всей нашей общине. Поэтому изменить их действительно очень трудно.

Обычно ни у кого из нас нет достаточно обоснованной и детализированной точки зрения в отношении новых технологий и научных достижений. У нас просто нет другого выхода, кроме как принимать точку зрения людей, которым мы доверяем. Наши взгляды и позиция окружающих нас людей взаимно дополняют и усиливают друг друга. Наличие твердого мнения само по себе заставляет нас думать, что оно имеет под собой серьезные основания. Поэтому мы считаем, что знаем очень много (больше, чем на самом деле).

Мы окружены людьми, мыслящими примерно в тех же категориях и знающих примерно столько же, сколько и мы. Мы все живем в сообществах носителей знаний, но, к сожалению, иногда знания в таких сообществах с научной точки зрения оказываются несостоятельными. Попытки повысить уровень научной грамотности будут неэффективными, если не изменить консенсус общины. В противном случае способному ученику придется примкнуть к другой общине.

Невозможно представить себе, чтобы обычный человек стремился получить глубокие знания по десяткам научных направлений. Вот почему мы в огромной степени зависим от сообщества носителей знаний.

Отчасти люди настроены против облучения пищевых продуктов потому, что они путают радиацию с радиоактивностью. Радиация – это испускание энергии, в том числе видимого света и микроволн. Радиоактивность – это распад нестабильных атомов, сопровождающийся высокоэнергетической радиацией, опасной для живых организмов. Отвечая на вопрос, почему они против облучения продуктов питания, люди отвечают, что при этом радиация остается в продуктах и загрязняет их. Между тем такие опасения не имеют никакого научного обоснования.

Трудно изменить убеждения, поскольку они переплетены с нашими ценностями и самоидентификацией и их разделяет наша община. Более того, имеющиеся в нашей голове причинно-следственные модели примитивны и часто просто ошибочны. Вот почему так трудно искоренить ложные представления. Иногда община может считать, что наука ошибается, особенно в тех случаях, когда наши причинно-следственные модели способствуют такой точке зрения. Иллюзия знания означает, что мы редко и неглубоко проверяем свои представления. Таков рецепт формирования ненаучного мышления.

Воспринимать новую информацию, противоречащую нашим причинно-следственным моделям, трудно, гораздо проще ее отбросить, особенно в тех случаях, когда она противоречит взглядам людей, которым мы доверяем. Однако еще труднее просто закрыть глаза на теперь уже очевидный факт, что мы – в большинстве своем – не понимаем, как функционируют рассматриваемые механизмы.

Размышления о политике
В ходе исследования, проведенного факультетом экономики сельского хозяйства Университета Оклахомы, потребителей спрашивали, должны ли продукты, полученные с помощью генной инженерии, обязательно иметь соответствующую маркировку. Более 80 % респондентов ответили «да». Это может показаться сильнейшим аргументом в пользу соответствующего закона. Люди имеют право на получение информации, которую они считают важной и хотят иметь. Однако 80 % респондентов одобрили также закон, предписывавший обязательную маркировку продуктов, содержащих ДНК. Они сочли, что люди имеют право знать, содержится ли в их пище ДНК. Если кто не в курсе: ДНК содержится почти во всех наших продуктах питания, как и вообще во всем живом. Так что, по мнению подавляющего большинства участников этого опроса, все виды мяса, овощей и зерновых продуктов должны иметь надпись «ОСТОРОЖНО! СОДЕРЖИТ ДНК». Но если мы перестанем употреблять продукты, содержащие ДНК, то просто умрем.

Почему люди с таким пылом судят о предметах, о которых они так мало знают? Вот как ответил на этот вопрос Сократ одному «политическому эксперту»:
«Уходя оттуда, я рассуждал сам с собою, что этого-то человека я мудрее, потому что мы с ним, пожалуй, оба ничего в совершенстве не знаем, но он, не зная, думает, что что-то знает, а я коли уж не знаю, то и не думаю, что знаю. На такую-то малость, думается мне, я буду мудрее, чем он, раз я, не зная чего-то, и не воображаю, что знаю эту вещь».
Платон. «Апология Сократа», 21d

Мы не способны понять, насколько мало мы знаем; зачастую, имея лишь крупицы знаний, мы склонны чувствовать себя экспертами. Но, когда мы чувствуем себя экспертами, мы и говорить начинаем как эксперты. И оказывается, что люди, к которым мы обращаемся, тоже знают не слишком много. Поэтому по сравнению с ними мы действительно обладаем определенной информацией, и от этого мы в еще большей мере ощущаем себя знатоками.
Такое сообщество «носителей знаний» может стать опасным: мы влияем на людей, с которыми говорим, но и они влияют на нас. Если члены группы не обладают соответствующими познаниями, но разделяют позицию друг друга, они могут взаимно усиливать ощущение понимания пробле