Теория · 1 из 8

Две системы мышления

Почему ошибки суждения систематичны и предсказуемы, как устроены быстрое и медленное мышление по Канеману и откуда в каталоге механизмы «Ленивая Система 2», «Ассоциативная машина», «Когнитивная лёгкость» и «Восприятие».

Результат страницы: отличать ответ, который пришёл сам, от проверенного суждения, и называть условия, при которых проверка не включается.

Задача на вход
1. Бита и мяч вместе стоят 1 доллар 10 центов. Бита дороже мяча на 1 доллар. Сколько стоит мяч?

Что называют когнитивным искажением

Задача про биту и мяч показывает явление, ради которого написан этот каталог. Ответ возник без усилия, был уверенным и при этом ошибочным. И ошибался не один человек, а большинство, причём в одну и ту же сторону. Почти все неверные ответы звучат как «10 центов», а не 3, 7 или 12.

Такую ошибку называют когнитивным искажением (cognitive bias) — систематическим отклонением суждения от того, что дают логика, статистика или проверенные данные. Ключевое слово здесь «систематическим». Случайная ошибка разбрасывает ответы во все стороны и при усреднении гасится, а искажение сдвигает ответы многих людей в одном направлении, поэтому его можно предсказать заранее и, если понимать механизм, предупредить.

Отсюда граница понятия. Незнание искажением не считается, потому что человек, который не знает курса доллара, ошибается, но не систематически. Разброс оценок у разных людей тоже не искажение, у него своё имя — шум, ему посвящена седьмая страница. Искажение — это ошибка, которую делает исправно работающее мышление, когда применяет полезный приём там, где приём не годится.

Сама программа исследований началась со статьи Амоса Тверски и Даниэля Канемана «Суждение в условиях неопределённости: эвристики и искажения» (Judgment under Uncertainty: Heuristics and Biases), вышедшей в журнале Science в 1974 году. В ней описаны три простых правила, которыми люди пользуются для оценки вероятности (репрезентативность, доступность и привязка), и ошибки, которые эти правила дают. В 1979 году те же авторы опубликовали теорию перспектив о решениях в условиях риска, а в 2002-м, уже после смерти Тверски в 1996 году, Канеман получил Нобелевскую премию по экономике за перенос этих результатов в экономическую науку. Книга «Думай медленно… решай быстро» (Thinking, Fast and Slow, 2011) — его итоговое изложение всей программы для широкого читателя. На ней и построена эта серия.

Система 1 и Система 2

Книга начинается с двух задач. Первая — фотография разгневанной женщины, и при взгляде на неё мгновенно понятно, что она злится и вот-вот скажет что-то резкое. Вторая — пример 17 × 24, и здесь понятно, что это умножение и что его можно решить, понятен примерный порядок ответа, но сам ответ не приходит. Чтобы его получить, нужно остановиться и считать.

Эти два режима Канеман называет вслед за психологами Китом Становичем и Ричардом Уэстом Системой 1 и Системой 2.

Две системы

Система 1 работает автоматически и быстро, почти не требует усилий и не ощущается как произвольная. Она узнаёт лица, читает настроение, достраивает фразы, отвечает «4» на «2 + 2».

Система 2 направляет внимание на умственную работу, которая требует усилия: сложный расчёт, сравнение двух тарифов по десяти параметрам, проверку логики довода. Её работу человек переживает как собственный выбор и сосредоточенность.

Разделение работает как разделение труда. Система 1 непрерывно предлагает впечатления, догадки и намерения, Система 2 по большей части их принимает, а вмешивается, когда Система 1 не справляется или когда появляется повод сомневаться. В обычный день так и надо, потому что проверять каждую мысль невозможно, а большинство быстрых суждений верны. За эту экономию платят ошибками, которые Система 1 делает в типичных ситуациях, а Система 2 не замечает.

ПризнакСистема 1Система 2
СкоростьМгновенно, параллельноМедленно, по одной задаче
УсилиеНе ощущаетсяОщущается, утомляет
КонтрольНе выключается по желаниюВключается намеренно
Что даётВпечатление, догадку, готовый ответПроверку, расчёт, правило
Типичная ошибкаОтвечает на другой, более лёгкий вопросНе включается и одобряет догадку

Канеман сам предупреждает, что две системы — полезные выдумки. Это не отделы мозга и не устройства с деталями, а персонажи, о которых удобно рассказывать. Фразу «Система 2 проверила ответ» легче понять, чем фразу о вычислениях, требующих рабочей памяти. Поздние исследователи предпочитают говорить о процессах типа 1 и типа 2, и об этом пишет сам Канеман. Для работы с каталогом этого языка достаточно, потому что у каждой записи в разделе «Как работает» описано, что предлагает Система 1 и почему Система 2 это пропускает.

Ленивый контролёр

В задаче про биту подводит не счёт, а контроль. Система 2 у студентов Принстона умеет решить её за секунду, но не включилась, потому что ответ казался очевидным. Канеман называет это законом наименьшего усилия, по которому из нескольких способов достичь цели человек в конце концов выбирает наименее затратный.

Второй пример из той же главы — силлогизм. «Все розы — цветы. Некоторые цветы быстро вянут. Следовательно, некоторые розы быстро вянут». Большинство студентов считают рассуждение верным, хотя вывод не следует из посылок, ведь среди быстро вянущих цветов может не оказаться ни одной розы. Заключение правдоподобно, и этого хватает, чтобы логику никто не проверял. Если человек уже верит в вывод, он охотно принимает и слабые доводы в его пользу.

Отсюда первый механизм каталога — Ленивая Система 2. Внимание ограничено, и человек тратит его скупо. Для дизайна это касается обеих сторон экрана.

  • Пользователь. Интерфейс получает от Системы 2 немного внимания и только на главную задачу. Всё остальное (подписи, условия, мелкий текст под кнопкой) обрабатывает Система 1, то есть по первому впечатлению. Отсюда слепота невнимания к баннерам и ограниченная ёмкость рабочей памяти, из-за которой форма в двенадцать полей теряет людей на шестом.
  • Команда. На вечернем ревью макета, на разборе двадцатого интервью, на приоритизации бэклога после трёх встреч Система 2 устала и одобряет то, что предложила Система 1. В каталоге сюда относятся предвзятость автоматизации, когда ответ системы или подсказку ИИ принимают без проверки, и предвзятость убеждений, то есть тот самый силлогизм про розы.
Ловушка: истощение воли

В главе о ленивом контролёре Канеман опирается на исследования истощения эго: будто сила воли тратится, как топливо, и после одного усилия следующее даётся хуже. Крупная проверка в 23 лабораториях (Хаггер и коллеги, 2016) этого эффекта не нашла. Опора на «усталость решений» в продуктовой аргументации поэтому слабая. Надёжно другое: внимание ограничено в каждый момент, и занятая чем-то Система 2 хуже контролирует остальное.

Ассоциативная машина

Система 1 работает не по правилам, а по ассоциациям. Слово, образ или число вызывают в памяти связанные с ним идеи, те — следующие, и за доли секунды складывается связная картина: что происходит, что будет дальше, как к этому относиться. Канеман называет это ассоциативной машиной.

Её работа видна в эффекте предшествования, или прайминге (priming). В примере из русского издания недавно увидевший слово «ЕДА» скорее дополнит фрагмент «М_ _О» до «МЯСО», а увидевший «МЫТЬ» — до «МЫЛО». Активация расходится от слова по сети связанных идей, как круги по воде. Такой смысловой прайминг воспроизводится надёжно. Сюда же каталог относит эффект привязки, при котором первое увиденное число активирует совместимые с ним мысли и оценка тянется к нему. Туда же относится предвзятость подтверждения, при которой ассоциативная память для проверки гипотезы ищет подтверждающие примеры, потому что именно они к ней «ближе».

Ловушка: прайминг поведения

Часть главы о прайминге в книге не выдержала проверки. Известный опыт, где студенты после слов о старости медленнее шли по коридору, не воспроизвелся (Дойен и коллеги, 2012). В 2017 году Канеман сам написал, что слишком доверял исследованиям на малых выборках и что читателям не стоит полагаться на эту главу. В каталоге у таких записей стоит низкая доказательность. Слова на экране меняют то, что человек заметит и как поймёт следующую фразу, но не превращают его в другого человека.

Когнитивная лёгкость

Пока Система 1 обрабатывает информацию легко, человеку спокойно и всё кажется знакомым, правдивым и хорошим. Когда обработка даётся с трудом, потому что шрифт плохо читается, фраза запутана или ситуация новая, возникает напряжение, и тогда Система 2 охотнее включается. Это состояние Канеман называет когнитивной лёгкостью (cognitive ease).

Лёгкость возникает по разным причинам, но ощущается одинаково, и Система 1 их не различает. Повторение даёт лёгкость, поэтому повторённое утверждение кажется правдивее, даже если источник ненадёжен. Это иллюзия истины. Знакомое нравится больше, и это Роберт Зайонц назвал эффектом простого предъявления. В опыте, который Канеман приводит, студенческие газеты двух университетов в Мичигане несколько недель печатали на первой полосе бессмысленные «турецкие» слова с разной частотой, а потом читатели оценивали, хорошее или плохое значение у каждого слова. Чем чаще слово попадалось на глаза, тем лучше оценка.

Канеман выводит из этого практические советы для убедительного сообщения: чёткий шрифт, простые слова, запоминающаяся форма, источник с легко произносимым названием. Но тут же оговаривает, что качественная бумага и простой язык не помогут, если сообщение бессмысленно или противоречит тому, что аудитория знает. Для дизайна граница проходит там же. Ясный текст и привычный паттерн интерфейса честно снимают лишнее усилие, а тот же механизм в рекламе, которая повторяет недоказанное утверждение, пока оно не начнёт звучать как факт, работает против читателя.

Восприятие: иллюзия, которая не проходит

Первой в книге идёт зрительная иллюзия из двух линий со стрелками на концах, которые смотрят внутрь и наружу. Линия со стрелками наружу кажется длиннее, хотя линии равны. Это иллюзия Мюллера-Лайера. Её можно измерить линейкой и запомнить, что линии одинаковые, но глаз всё равно продолжит видеть одну линию длиннее, потому что знание меняет суждение, а не восприятие.

Канеман строит на этом главный тезис книги о том, что с когнитивными иллюзиями происходит то же самое. Систему 1 нельзя выключить, поэтому знание о существовании искажения от искажения не избавляет. Постоянно сомневаться в каждой мысли тоже нельзя, потому что это утомительно, а Система 2 слишком медленна, чтобы заменить Систему 1 в повседневных решениях. Остаётся компромисс — научиться узнавать ситуации, в которых ошибка вероятна, и тратить усилие там, где ставки высоки. И помнить, что чужие ошибки заметить легче, чем свои.

Эта мысль определяет устройство каталога. В нём есть вход «Ситуации»: интервью, страница тарифов, питч, найм, разбор провала. Каждая ситуация перечисляет вероятные в ней искажения, то есть места, где стоит включить Систему 2 или позвать коллегу.

Главное о двух системах

Искажение — не глупость и не незнание, а предсказуемая ошибка быстрого мышления, которую медленное не проверило. Поэтому бороться с ним полезнее процессом, чем усилием воли: заранее знать опасные ситуации и встраивать в них проверку.

Практика: где не включается проверка
  1. Взять один рабочий экран продукта — онбординг, форму, страницу тарифа.
  2. Выписать всё, что пользователь должен понять или проверить на этом экране.
  3. Для каждого пункта отметить: увидит ли его Система 1 с первого взгляда или он требует внимания Системы 2.
  4. Для пунктов второго типа решить, важны ли они для решения пользователя. Важные вынести туда, где на них смотрят, неважные убрать.

Готово, когда у каждого важного условия на экране есть место, где его замечают без усилия.

Механизмы в каталоге

После этой страницы в каталоге узнаются четыре ветки.

МеханизмЧто делаетЗаписи для начала
Ленивая Система 2Проверка дорога и включается редкоЗакон наименьшего усилия, Перегрузка выбором, Склонность соглашаться
Ассоциативная машинаПервое впечатление тянет за собой связанные идеиЭффект привязки, Предвзятость подтверждения, Фиксация на примере
Когнитивная лёгкостьЛёгкое кажется верным и приятнымБеглость восприятия, Иллюзия Моисея
Восприятие и заметностьСистема 1 видит то, что выделеноСлепота к изменениям, Эффект усечённой оси
Проверьте себя
1. Команда тестирует новый онбординг. Восемь из десяти участников пропускают экран с условиями пробного периода и потом удивляются списанию. Какое объяснение ближе к механизму с этой страницы?
2. Руководитель узнал про эффект привязки на тренинге и считает, что теперь первое названное число на него не влияет. Что говорит об этом пример с иллюзией Мюллера-Лайера?
3. Почему повторённая в рекламе фраза кажется правдивее?
Источники
  • Д. Канеман. Думай медленно… решай быстро. М.: АСТ, 2014 (Thinking, Fast and Slow, 2011). Часть I, главы 1–5; введение.
  • A. Tversky, D. Kahneman. Judgment under Uncertainty: Heuristics and Biases // Science, 1974, 185 (4157). doi:10.1126/science.185.4157.1124
  • M. S. Hagger et al. A Multilab Preregistered Replication of the Ego-Depletion Effect // Perspectives on Psychological Science, 2016, 11 (4). doi:10.1177/1745691616652873
  • S. Doyen et al. Behavioral Priming: It's All in the Mind, but Whose Mind? // PLoS ONE, 2012, 7 (1). doi:10.1371/journal.pone.0029081
  • D. Kahneman. Комментарий к записи U. Schimmack «Reconstruction of a Train Wreck», блог Replicability-Index, 2017.