Как мы думаем и ошибаемся

Первый принцип: не обманывать самого себя, а себя обмануть легче всего.

— Ричард Фейнман

Две системы#

Даниэль Канеман и его друг Амос Тверски в 1970-х годах начали изучать, как люди принимают решения, когда исход неизвестен. Экономисты тогда считали человека рациональным: он взвешивает варианты, оценивает вероятности и выбирает наилучший. Канеман и Тверски придумывали простые задачи и смотрели, как на них отвечают студенты, врачи, статистики. Ответы систематически отклонялись от разумных, и отклонялись предсказуемо. За эти работы Канеман получил Нобелевскую премию по экономике, а Тверски, к сожалению, до неё не дожил.

В книге «Думай медленно… решай быстро» Канеман описывает мышление как работу двух систем. Система 1 работает быстро, автоматически, без усилий: узнаёт лицо, понимает простую фразу, чувствует угрозу в голосе, отвечает на вопрос «два плюс два». Система 2 медленная и требует усилий: умножает 17 на 24, сравнивает два тарифа, следит за логикой спора. Большую часть времени мы живём системой 1, а система 2, как ленивый контролёр, одобряет её предложения не проверяя. Это та же экономия, ради которой мозг, сжигающий пятую часть энергии тела, предпочитает привычку размышлению.

Система 1 прекрасно работает в знакомых ситуациях, на которых она обучена. Опытный пожарный чувствует, что пол вот-вот рухнет, опытный шахматист с одного взгляда видит хороший ход. Ошибки начинаются, когда система 1 берётся за задачи, требующие статистики, логики или сравнения с неочевидным, и при этом не сообщает, что взялась не за своё дело: ответ приходит с тем же чувством уверенности, что и верный.

Каталог ошибок#

Канеман и Тверски описали множество таких систематических ошибок, и с тех пор список продолжают пополнять.

Якорение. В одном из их опытов участники сначала видели, как колесо рулетки останавливается на 10 или на 65, а потом их спрашивали, какая доля африканских стран входит в ООН. Колесо было подстроено и ничего не говорило об Африке. И всё же те, кому выпало 10, в среднем называли 25 процентов, а те, кому выпало 65, — 45 процентов. Случайное число становится якорем, от которого мы отталкиваемся. Продавцы пользуются этим, показывая сначала самую дорогую модель.

Доступность. Мы оцениваем вероятность события по тому, как легко вспоминаются примеры. После новостей об авиакатастрофе люди боятся летать, хотя дорога в аэропорт на машине опаснее. Об акулах пишут чаще, чем о падающих кокосах, и акулы кажутся страшнее.

Репрезентативность. Канеман описывает Линду, тридцатиоднолетнюю выпускницу философского факультета, активистку борьбы за социальную справедливость. Что вероятнее: Линда работает кассиром в банке, или Линда работает кассиром в банке и участвует в феминистском движении? Большинство выбирает второе, хотя это невозможно: второе событие входит в первое и не может быть вероятнее его. Описание похоже на феминистку, и сходство побеждает логику.

Неприятие потерь. Потеря ста рублей огорчает сильнее, чем радует находка тех же ста рублей. Поэтому люди держат падающие акции в надежде отыграться и отказываются от выгодных, но рискованных предложений. Одно и то же лечение, описанное как «90 процентов выживают» и как «10 процентов умирают», врачи выбирают с разной охотой. Это эффект формулировки.

Канеман ввёл и полезное понятие: «что видишь, то и есть». Система 1 строит историю из того, что под рукой, и не спрашивает, чего не хватает. Джордан Элленберг начинает книгу «Как не ошибаться» с самого известного примера. Во время Второй мировой войны военные хотели усилить броню бомбардировщиков там, где у вернувшихся машин было больше всего пробоин. Статистик Абрахам Вальд предложил бронировать места, где пробоин не было, прежде всего моторы: самолёты с такими попаданиями просто не возвращались. Ошибка выжившего и есть «что видишь, то и есть» в чистом виде.

Случай, принятый за умение#

Нассим Талеб в «Одураченных случайностью» переносит ту же слепоту на успех. Мы видим преуспевших трейдеров, предпринимателей, авторов бестселлеров и ищем в них секрет, не замечая кладбища тех, кто действовал так же и проиграл. Талеб предлагает мысленный опыт: эксцентричный богач платит десять миллионов долларов за то, чтобы человек один раз сыграл в русскую рулетку. Пять из шести игроков выйдут богачами, о них напишут в журналах, и кто-нибудь начнёт изучать их «стратегию». Решение от этого не станет разумным. Судить надо о том, как было принято решение, а не о том, чем оно кончилось в единственной реализовавшейся истории.

Элленберг описывает ту же ловушку в виде мошенничества, которое называют балтиморским биржевым маклером. Человек рассылает десяти тысячам незнакомцев письма с прогнозом: половине пишет, что акция вырастет, половине, что упадёт. На следующей неделе он пишет только тем, кому прогноз сбылся, и снова делит их пополам. Через десять недель остаётся около десятка людей, которые получили десять верных прогнозов подряд и готовы отдать такому провидцу свои деньги. Каждый из них видит безупречную серию и не видит тысяч писем, ушедших в корзину.

Леонард Млодинов в «(Не)совершенной случайности» показывает, как плохо интуиция справляется с вероятностями даже у специалистов. В 1990 году журналистка Мэрилин вос Савант ответила в своей колонке на задачу из телевизионной игры. За одной из трёх дверей приз, вы выбираете дверь, ведущий открывает другую, пустую, и предлагает сменить выбор. Вос Савант написала, что менять выгодно: шансы вырастают с одной трети до двух третей. Ей пришло около десяти тысяч писем, почти тысяча из них от людей с учёными степенями, и большинство уверяло, что она ошиблась. Права была она. Система 1 видит две закрытые двери и делит шансы пополам, хотя ведущий, открывая дверь, знал, где приз, и этим знанием поделился.

Предсказуемая иррациональность#

Психолог Дэн Ариели продолжает с того места, где остановился Канеман, и проводит опыты в реальной жизни. Журнал The Economist предлагал подписку: онлайн за 59 долларов, печатную версию за 125, печатную и онлайн тоже за 125. Второй вариант никто не выбирает, зачем он? Когда Ариели убрал его, большинство студентов выбрали дешёвую онлайн-подписку. Когда вернул, большинство выбрали дорогую комбинированную. Бесполезный вариант служил приманкой, на фоне которой комбинированный выглядел выгодным.

Ариели показывает силу слова «бесплатно»: люди выбирают бесплатную конфету вместо качественной за копейки, даже если разница в цене в пользу качественной. Показывает, как социальные и рыночные нормы вытесняют друг друга. В израильских детских садах, где ввели штраф за опоздание родителей, опозданий стало больше: неловкость перед воспитателями превратилась в оплаченную услугу. И когда штраф отменили, прежнее чувство долга не вернулось.

Оружие влияния#

Роберт Чалдини несколько лет работал под прикрытием: устраивался в компании по продаже подержанных машин, в благотворительные фонды, в рекламные агентства и изучал, как профессионалы добиваются согласия. В «Психологии влияния» он свёл их приёмы к шести принципам, каждый из которых опирается на полезное правило, которое можно обратить против нас.

Начинает Чалдини с индюшек. Индюшка-мать заботится о любом существе, которое издаёт звук «чип-чип», похожий на писк птенца, даже о чучеле хорька, своего врага, если в него спрятан магнитофон. Звук включает программу заботы, и программа не проверяет, кто её включил. У людей такие программы сложнее, но устроены похоже.

Взаимность: получив подарок, мы чувствуем себя обязанными, и кришнаиты у аэропортов раздавали цветы, прежде чем попросить пожертвование. Обязательство и последовательность: сделав маленький шаг, мы стремимся оставаться последовательными и делаем большой. Социальное доказательство: если все так делают, значит, так и надо, и в неясной ситуации мы смотрим на окружающих. Симпатия: мы охотнее соглашаемся с теми, кто нам нравится, похож на нас или нас хвалит. Авторитет: белый халат или звание отключают критику. Дефицит: «осталось три штуки» и «предложение действует до пятницы» заставляют хотеть сильнее. Каждое правило в большинстве случаев помогает, и мошенники с маркетологами живут на исключениях. Чалдини советует не отказываться от этих правил, а замечать момент, когда их включают намеренно.

Эллиот Аронсон и Энтони Пратканис в «Эпохе пропаганды» разбирают тот же арсенал применительно к политике и рекламе. Один из приёмов они называют словом Курта Воннегута «гранфаллон»: людей объединяют в группу по ничего не значащему признаку, и через несколько минут они уже предпочитают «своих». Убеждение, по их описанию, идёт двумя путями: центральным, когда человек вдумывается в аргументы, и периферийным, когда он реагирует на привлекательность, повторение и сигналы авторитета. Реклама почти всегда выбирает второй путь, потому что он дешевле для того самого ленивого контролёра.

Виктор Пелевин в «Generation „П“» посмотрел на ту же кухню изнутри и с издёвкой. Его герой, бывший поэт, становится рекламным копирайтером в Москве 1990-х, и в его записных книжках появляется целая теория «вау-импульсов» — орального, анального и вытесняющего, которыми реклама управляет человеком. Теория пародийная, но читатель, прошедший через Чалдини, узнаёт в ней знакомые механизмы.

Мышление разведчика#

Почему люди так упорно держатся за свои убеждения, даже когда факты против? Эллиот Аронсон в «Общественном животном» объясняет это когнитивным диссонансом: держать в голове два несовместимых представления неприятно, и мы избавляемся от напряжения, подгоняя под убеждение факты, а не наоборот. Он рассказывает о небольшой группе, ожидавшей конца света в назначенный день. Когда день прошёл благополучно, самые преданные члены группы не разочаровались, а взялись проповедовать с новой силой. Его же «первый закон Аронсона» звучит утешительно: люди, совершающие безумные поступки, не обязательно безумны.

Джулия Галеф в «Мышлении разведчика» различает две установки. Солдат защищает свою позицию, как крепость: каждый аргумент против есть атака, которую надо отбить. Разведчик хочет знать, как на самом деле устроена местность, и новая информация для него полезна, даже если она неприятна. Солдатское мышление естественно, оно защищает самооценку, помогает сохранять мотивацию и ладить с группой. Но за это приходится платить неверными решениями.

Галеф предлагает простые проверки. Что бы я подумал, если бы то же самое сказал человек из противоположного лагеря? Какой ответ стал бы для меня неприятным, и не потому ли я его отвергаю? Насколько я уверен, в процентах? Поставил бы я на это деньги? Разведчик не всегда прав, но он чаще замечает, что ошибся, и ошибка обходится ему дешевле.

Ася Казанцева в «В интернете кто-то неправ!» показывает то же на спорных темах, вроде вакцин или генно-модифицированных продуктов. Люди выбирают не аргументы, а сторону, и потом ищут аргументы в её пользу. Эта склонность искать подтверждения своей правоте называется предвзятостью подтверждения, и она, возможно, самая коварная из всех. Джордж Оруэлл в «1984» довёл её до государственной нормы и дал ей имя: двоемыслие, умение одновременно держать в голове два противоположных убеждения и верить в оба. Роман написан о тоталитарном государстве, но слово прижилось потому, что каждый узнаёт этот навык и в себе.

Логика и её пределы#

Классический способ защититься от ошибок мышления — логика. Георгий Челпанов, основатель первого в России психологического института, написал учебник «Логика», по которому учились гимназисты начала XX века. Он излагает логику Аристотеля: понятия, суждения, умозаключения, силлогизмы. Все люди смертны, Сократ человек, следовательно, Сократ смертен. Логика проверяет не истинность посылок, а правильность вывода, и потому из ложных посылок она безупречно выведет ложь.

Никита Непряхин и Тарас Пащенко в «Критическом мышлении» переводят старую логику на язык нынешних споров. Они разбирают типичные уловки: подмену тезиса, ложную дилемму («либо ты с нами, либо против нас»), аргумент к личности вместо аргумента по существу, скользкую дорожку, когда из малого шага выводят неизбежную катастрофу. Знать эти уловки полезно и для того, чтобы им не поддаваться, и для того, чтобы ловить их в собственной речи.

Эдвард де Боно в «Шести шляпах мышления» предлагает инструмент для групп. Спор часто буксует, потому что один приводит факты, другой высказывает эмоции, третий критикует, четвёртый предлагает идеи, и все говорят одновременно. Де Боно предлагает надевать «шляпы» по очереди: сначала все обсуждают только факты, потом только чувства, потом только риски, потом выгоды и новые идеи. Приём звучит наивно, но упорядочивает обсуждение.

Как устроено научное мышление#

Научный метод можно рассматривать как набор приёмов против ошибок, описанных Канеманом. Философ Карл Поппер в «Логике научного исследования» предложил критерий, отличающий науку от ненауки. Научная теория должна быть фальсифицируема, то есть запрещать какие-то наблюдения, и если такое наблюдение произойдёт, теория опровергнута. Теория, объясняющая всё что угодно, ничего не объясняет. Поппер считал астрологию и психоанализ ненаучными, потому что они подстраиваются под любой результат. Никакое число белых лебедей не доказывает, что все лебеди белые, но один чёрный опровергает.

Контрольная группа, слепые испытания, воспроизведение опытов другими учёными, рецензирование и статистические тесты служат одной цели: не дать исследователю увидеть то, что он хочет увидеть. Ричард Фейнман в 1974 году обратился к выпускникам Калтеха с речью о «науке карго-культа», и слова о том, что себя обмануть легче всего, взяты оттуда. Фейнман называл научной честностью готовность сообщать обо всём, что может опровергнуть твой результат, и приводил поучительную историю. Роберт Милликен измерил заряд электрона и получил значение немного ниже верного. Следующие исследователи приближались к правильной цифре медленно, шаг за шагом: получив число сильно выше милликеновского, они искали у себя ошибку, а получив близкое, успокаивались.

Психолог Кэрол Дуэк добавляет к этому психологическое измерение. Люди с установкой на данность считают способности врождёнными и воспринимают ошибку как приговор. Люди с установкой на рост считают способности развиваемыми и воспринимают ошибку как информацию. Вторые, по её данным, учатся лучше и чаще доводят трудное дело до конца. Это тот же разведчик Галеф, только обращённый к самому себе.

Метод Холмса#

Мария Конникова в книге «Выдающийся ум: мыслить как Шерлок Холмс» взяла самого знаменитого сыщика как наглядное пособие по двум системам Канемана. Торопливую, доверчивую манеру думать она называет «системой Ватсона», внимательную и проверяющую — «системой Холмса». Доктор Ватсон не глуп, он просто думает так, как думает большинство из нас: видит, но не наблюдает, и делает выводы раньше, чем соберёт факты.

Конникова опирается на образ, который Конан Дойл дал уже в «Этюде в багровых тонах». Холмс сравнивает мозг с пустым чердаком, куда умный человек складывает только то, что ему пригодится, а глупец тащит всякий хлам. Ватсон с изумлением узнаёт, что Холмс не знает, вращается ли Земля вокруг Солнца, и сыщик отвечает, что для его работы это знание бесполезно, а значит, он постарается его забыть. Шутка Конан Дойла на деле серьёзна: внимание ограничено, и тот, кто не выбирает, что в него впускать, отдаёт выбор рекламе, ленте новостей и случайным якорям.

Защиту от ошибок Конникова, как и Канеман, видит не в чудесном переходе на «систему Холмса», а в привычках. Замедляться, когда ставки высоки. Спрашивать, чего я не вижу и кого нет среди вернувшихся самолётов. Искать данные, которые могли бы опровергнуть моё мнение. Не принимать решений под давлением срока или «последнего шанса». Сам Канеман признавался, что после десятилетий работы продолжает совершать ошибки, которые описал, и узнаёт их скорее у других, чем у себя. Поэтому лучшая защита часто внешняя: коллега, который имеет право сказать «ты неправ», и процедура, которая не даёт пропустить проверку.

В «Скандале в Богемии» Холмс говорит Ватсону, что строить теории, не имея данных, — большая ошибка: незаметно начинаешь подгонять факты под теорию, вместо того чтобы подгонять теорию под факты. А в «Тайне Боскомской долины» у него есть фраза, которую полезно помнить каждый раз, когда ответ кажется слишком ясным: «Нет ничего более обманчивого, чем очевидный факт».