Теория · 8 из 8

Как обезвредить искажения

Что действительно снижает ошибки суждения, а что только создаёт ощущение защиты. Как читать доказательность в карточке, где проходит граница между честным приёмом и тёмным паттерном и как пользоваться тремя входами каталога.

Результат страницы: подобрать к ситуации противоядие-процедуру, прочитать карточку каталога с учётом её доказательности и отличить честный приём от тёмного паттерна по трём признакам.

Задача на вход
1. Канеман изучал искажения больше сорока лет. Что он пишет в конце книги о собственной интуиции?

Знание названий не защищает

После семи страниц теории и 175 записей каталога естественно ждать, что ошибок станет меньше. Исследования говорят, что сами по себе — нет. Эмили Пронин, Дэниел Лин и Ли Росс в 2002 году показали слепое пятно к искажениям, из-за которого люди находят искажения у других гораздо охотнее, чем у себя. Ричард Уэст, Рассел Месерв и Кит Станович в 2012 году добавили неприятную деталь, обнаружив, что у людей с более высокими когнитивными способностями слепое пятно не меньше, а скорее шире. Умение рассуждать помогает объяснять чужие ошибки и не помогает замечать свои.

Свои ошибки не исчезают от знания о них, и это продолжение мысли с первой страницы. Иллюзия Мюллера-Лайера тоже не исчезает, когда известно, что линии равны. Знание названия меняет только одно: им можно назвать ситуацию. Канеман считал это важным. Ярлыки вроде «эффекта привязки» или «узких рамок» работают как название болезни в медицине и помогают узнать картину и обсудить её. Поэтому в конце каждой главы книги есть раздел «Разговоры о…» — реплики, которыми коллеги могли бы обменяться у кулера. «Выборка слишком маленькая, чтобы делать выводы». «Она ничего не знает про его управленческие навыки, это эффект ореола от хорошей презентации». Такой словарь полезнее в команде, чем в одиночку. Чужую ошибку заметить легче, а назвать её коротко и без обиды — уже половина противоядия.

Что помогает: обучение с обратной связью

Обучение тоже бывает противоядием, но измеримо оно работает в одном направлении. В 2015 году Кэри Морведж с коллегами сравнил два варианта одного занятия: обучающее видео и компьютерную игру, в которой участник принимал решения, ошибался и сразу получал разбор. Сразу после занятия игры снижали ошибки на 32 % и больше, видео — на 19 % и больше, а через два-три месяца эффект игры держался на уровне не меньше 24 %, видео — не меньше 19 %. Обучение переносилось на задачи и форматы, которые на занятии не встречались.

Разница между игрой и видео на одном занятии такая же, как между знанием названия и узнаванием в ситуации. Поэтому страницы этой серии кончаются вопросами-ситуациями с разбором, ведь попытка ответить и ошибиться полезнее ещё одного определения. Но главное противоядие всё-таки не обучение.

Что помогает лучше: процедура вместо воли

Противоядие в каталоге — почти всегда процедура: что сделать, в какой момент и кем. Канеман пишет, что организации справляются с искажениями лучше людей, потому что могут встроить проверку в процесс. Вот главные противоядия, и почти все уже встречались в серии.

ПротивоядиеПротив чегоКак применить
Взгляд снаружиОшибка планирования, сверхуверенностьНайти класс похожих проектов, взять их статистику за базу и сдвигаться только на реальные отличия
ПремортемОптимизм, групповое мышлениеПеред стартом каждый письменно описывает, почему проект провалился через год
Рассмотреть противоположноеПредвзятость подтверждения, мотивированное мышлениеСпросить: как бы мы оценили эти данные, если бы они говорили обратное?
Независимые оценки до обсужденияКонформизм, привязка, шумКаждый записывает оценку молча, потом их зачитывают по кругу
Критерии до результатаЖелаемый вывод, искажение результатомГлавная метрика, порог успеха и сегменты фиксируются до запуска
Разбивка сужденияЭффект ореола, шумОценивать признаки по отдельности, общее мнение — последним
Тест на новичкахПроклятие знания, ложный консенсусПроверять тексты и навигацию на людях вне команды

У части противоядий есть прямая проверка. Чарльз Лорд, Марк Леппер и Элизабет Престон в 1984 году показали, что просьба «рассмотрите противоположный результат» снижала предвзятую оценку данных сильнее, чем просьба «будьте объективны». У премортема опора в опыте Деборы Митчелл, Эдварда Руссо и Нэнси Пеннингтон (1989), где люди, которые представляли событие уже случившимся, называли больше его возможных причин. Гэри Кляйн пересказывает этот результат как «на 30 % лучше», но в исследовании мерили число причин, а не их правильность. Прогноз по референтному классу Бент Фливбьерг перенёс из работ Канемана в управление крупными проектами, и в его выборке 258 транспортных проектов перерасход бюджета был в 9 случаях из 10.

Ловушка: противоядие как ритуал

Премортем, который проводят формально и обсуждают пять минут, не помогает: команда пишет очевидные риски и возвращается к плану. Процедура работает, когда её результат меняет решение — сроки, объём, критерии остановки. Если ни одна процедура ни разу ничего не изменила, скорее всего, она стала ритуалом.

Доказательность: что в каталоге надёжно

В 2015 году проект Open Science Collaboration попытался повторить 100 опубликованных исследований по психологии. Значимыми в оригинале были 97 из них, при повторении — 36 %, а размер эффекта в повторах был в среднем примерно вдвое меньше. Кризис воспроизводимости задел и книгу Канемана. Прайминг поведения из четвёртой главы и истощение воли из третьей не выдержали крупных проверок. В 2012 году Канеман сам написал исследователям прайминга, что видит надвигающееся крушение, а в 2017-м признал, что слишком доверял исследованиям на малых выборках. Поэтому у каждой записи каталога стоит доказательность.

УровеньЧто значитКак пользоваться
A — устойчиво воспроизводитсяЭффект подтверждён метаанализами или крупными повторамиМожно опираться в аргументации
B — надёжно, с оговоркамиЭффект есть, но его размер или условия спорныОпираться, но проверять в своём контексте
C — есть данные и есть спорыЧасть проверок не подтвердила эффектСчитать гипотезой, а не фактом

Явления, которые не подтвердились (уровни D и E в шкале исследования), в каталог не вошли. Например, «эффект опознаваемой жертвы» исключён после повтора 2024 года. Перегрузка выбором оставлена, но с пометкой, что метаанализы находят её только при определённых условиях. Полезная привычка при чтении любой статьи о «психологическом приёме» в продукте — спросить, на каком уровне доказательности он находится.

Честный приём или тёмный паттерн

Для каждого приёма каталог показывает в карточке рядом честный пример и «тёмную сторону», потому что механизм у них один. Умолчание, якорь, дефицит, социальное доказательство работают одинаково, служат ли они пользователю или против него. Слово тёмный паттерн (dark pattern) ввёл дизайнер Гарри Бриньулл в 2010 году. В 2019 году группа Арунеша Матхура из Принстона просканировала около 11 тысяч интернет-магазинов и нашла 1818 тёмных паттернов на 1254 сайтах, из них 183 сайта использовали явно обманные: выдуманные счётчики, ложные таймеры. Граница проходит по трём признакам.

  1. Чью цель обслуживает приём. Умолчание «сохранять черновик» служит пользователю, «подписаться на платную рассылку» — компании.
  2. Правдива ли информация. «Осталось 2 номера» честно, если номеров действительно два.
  3. Так же ли легко выйти, как войти. Талер и Санстейн, авторы «Nudge» (2008), прямо ставят условие: подталкивание должно быть легко и дёшево обойти. Подписка в один клик и отмена через звонок в поддержку этому условию не отвечают.

Эта граница стала юридической. Регламент ЕС о цифровых услугах (Digital Services Act, 2022) в статье 25 запрещает онлайн-платформам проектировать интерфейсы так, чтобы обманывать или манипулировать пользователями или иначе мешать им принимать свободные и осознанные решения.

Как пользоваться каталогом

У каталога три входа, и каждый отвечает на свой вопрос.

  • Таблица — «что вообще бывает». Записи стоят по 19 механизмам, и после этой серии каждая строка таблицы — знакомая ветка. Полоса сверху клетки показывает, чьё это искажение: синяя — аудитории, оранжевая — команды.
  • Созвездие — «что с чем связано». Связи четырёх типов: частный случай, усиливает, противовес, общий ход. Полезно, когда нашлось одно искажение и нужно понять, какие придут вместе с ним.
  • Ситуации — «что сейчас может пойти не так». Сорок рабочих ситуаций, от интервью и страницы тарифов до найма и разбора провала. Это и есть совет Канемана: узнать минное поле до того, как на него наступить.

Каждый вход ведёт к карточке записи, и порядок в ней такой: суть, как работает и к какому механизму относится, классический опыт, примеры в продукте, коммуникации и управлении с тёмной стороной, граница, связи, противоядия, источники. Начинать удобнее с ситуации, в которой команда находится сейчас, и идти от неё к карточкам и противоядиям.

Механизм каталогаГде объяснён
Ленивая Система 2, Ассоциативная машина, Когнитивная лёгкость, ВосприятиеДве системы
Что видишь, то и есть, Подстановка, Прототипы, Поиск причинЭвристики и подстановка, Иллюзия понимания
Точка отсчёта, Веса вероятностей, РамкиВыбор под риском
Вспоминающая личность, Устройство памяти, Притяжение настоящегоПереживающее и вспоминающее «я»
Своя перспектива, Оглядка на других, Защита образа себя, Своя группа, Желаемый выводЯ, другие и своя группа
Разброс суждений вне каталогаШум
Практика: противоядие в процессе команды
  1. Открыть в каталоге вход «Ситуации» и выбрать ситуацию, в которой команда окажется в ближайшие две недели.
  2. Выписать три искажения из этой ситуации с доказательностью A или B.
  3. Для каждого выбрать одно противоядие-процедуру и решить, в какой момент процесса и кто его применяет.
  4. Встроить процедуру в шаблон, повестку или чек-лист, которым команда уже пользуется.

Готово, когда противоядие записано в рабочем документе команды, а не в личных заметках.

Главное о противоядиях

Знание искажений не защищает того, кто знает, но помогает команде называть ошибки и встраивать проверки. Работают процедуры, которые меняют решение, и обучение на ситуациях с обратной связью. А каждый приём влияния на пользователя проверяют тремя вопросами: чьей цели он служит, правдив ли он и легко ли из него выйти.

Проверьте себя
1. Команда прошла тренинг по когнитивным искажениям. Что из этого с наибольшей вероятностью снизит ошибки в следующем квартале?
2. Статья о «нейромаркетинге» обещает, что красная кнопка повышает конверсию на 30 % благодаря «прайминговому эффекту». Как к этому отнестись?
3. Магазин показывает на карточке товара «Осталось 3 штуки». Склад реальный, число берётся из базы, купить можно без регистрации. Это тёмный паттерн?
Источники
  • Д. Канеман. Думай медленно… решай быстро. М.: АСТ, 2014. Заключение; разделы «Разговоры о…».
  • E. Pronin, D. Y. Lin, L. Ross. The Bias Blind Spot: Perceptions of Bias in Self Versus Others // Personality and Social Psychology Bulletin, 2002, 28 (3). doi:10.1177/0146167202286008
  • R. F. West, R. J. Meserve, K. E. Stanovich. Cognitive sophistication does not attenuate the bias blind spot // Journal of Personality and Social Psychology, 2012, 103 (3). doi:10.1037/a0028857
  • C. K. Morewedge et al. Debiasing Decisions: Improved Decision Making With a Single Training Intervention // Policy Insights from the Behavioral and Brain Sciences, 2015, 2 (1). doi:10.1177/2372732215600886
  • C. G. Lord, M. R. Lepper, E. Preston. Considering the opposite: A corrective strategy for social judgment // Journal of Personality and Social Psychology, 1984, 47 (6). doi:10.1037/0022-3514.47.6.1231
  • D. J. Mitchell, J. E. Russo, N. Pennington. Back to the future: Temporal perspective in the explanation of events // Journal of Behavioral Decision Making, 1989, 2 (1). doi:10.1002/bdm.3960020103
  • G. Klein. Performing a Project Premortem // Harvard Business Review, сентябрь 2007.
  • B. Flyvbjerg, M. S. Holm, S. Buhl. Underestimating Costs in Public Works Projects: Error or Lie? // Journal of the American Planning Association, 2002, 68 (3). doi:10.1080/01944360208976273
  • Open Science Collaboration. Estimating the reproducibility of psychological science // Science, 2015, 349 (6251). doi:10.1126/science.aac4716
  • A. Mathur et al. Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites // Proceedings of the ACM on Human-Computer Interaction, 2019, 3 (CSCW). doi:10.1145/3359183
  • R. H. Thaler, C. R. Sunstein. Nudge. Yale University Press, 2008.
  • Регламент (ЕС) 2022/2065 о цифровых услугах (Digital Services Act), статья 25.