Мы приспосабливаемся к массовому увеличению объема данных и степени, в которой технологии и автоматизация навязывают нам жизнь. Это имеет последствия для нашей способности думать, запоминать и прогрессировать… или застаиваться, если мы просто доверяем аналитическое мышление другим или нашим машинам!

Подумайте на минуту, с чем сталкиваются иммигранты, если они не говорят на языке принимающей страны. Именно так 2020 год поразил многих людей, когда им вдруг пришлось все делать онлайн. Неудивительно, что мы часто инстинктивно выбираем самый простой и быстрый подход.

Чем больше мы полагаемся на интуитивные выводы, тем больше мы создаем мир, который не основан на заслугах или справедливом отношении к другим. Я вижу это во многих сферах бизнеса, от подбора клиентов до подбора кандидатов на работу. Большинство следуют течению все более кастовой системы, управляемой алгоритмами, о которых большинство из нас мало знает.

Слишком расплывчато просто сказать: «мы сталкиваемся с ускоряющимися изменениями». Сначала я хотел перечислить силы, которые меняют нашу деловую и личную жизнь. Затем я хотел объяснить, как эти силы, особенно всплеск информации, могут заставить нас откладывать решения на интуицию, когда мы должны быть более обдуманным и аналитическим.

Во-первых, основные силы перемен:

1. Потеря защищенных рынков приводит к изменениям во всех отраслях. Даже низкотехнологичные предприятия сталкиваются с необходимостью реорганизации или смерти. Открытые рынки — это чистый плюс (за исключением действующих компаний), за исключением случаев, когда на них доминирует один или несколько агрегаторов (см. следующий пункт).

2. Конкуренция за таланты является глобальной во многих профессиональных категориях. Covid-19 в 2020 году также ускорил тенденцию к удаленной работе, что еще больше освободило рабочие места. Однако одной из тенденций, направленных против более свободного рынка труда, является рост числа агрегаторов. Там, где агрегаторы контролируют доступ ко многим открытым позициям, у профессионалов, как правило, меньше вариантов, и их труднее выделить на рынке.

3. Ускорение внедрения технологий. Необходимость внедрения технологии, даже если мы не согласны с ее полезностью или если ее реализация плохо спроектирована или содержит ошибки. Плюсы: удобство, скорость транзакций. Минусы: потеря контроля над конфиденциальностью, потеря альтернатив плохим онлайн-системам, незрелая поддержка исключений или потребности «длинного хвоста» (текущие рабочие процессы часто поддерживают только узкий диапазон предположений с планами расширения в будущем. Только «элитные» клиенты). есть варианты для удовлетворения особых потребностей),

4. Огромный объем данных/информации. Проблема для отдельных лиц заключается в определении точности, объективности и важности источников. Я вижу растущий рынок таких приложений, как «NewsGuard», который устанавливает правила для оценки объективности и точности веб-сайтов с новостным контентом. С такими приложениями, как ChatGPT или LaMDA, даже трудно отличить контент, написанный человеком, от контента, созданного машиной! Вторичный риск роста данных — это защита прав на наши данные, а также конфиденциальность.

5. Быстрый культурный сдвиг в отношении нашего социального взаимодействия. Это произошло так быстро, что мы пытаемся понять, как это влияет на то, как мы остаемся на связи с друзьями, на случаи массового насилия, на политическую поляризацию и, в конечном счете, на то, как вести счастливую, приносящую удовлетворение жизнь. Наш переход в онлайн оказал на них положительное влияние? Если нет, то как мы адаптируемся и сколько регулирования нам нужно, чтобы защитить нас от нас?

6. Примерно с 1999 года клиенты перестали быть клиентами. Мы стали каналом для рекламодателей, чтобы добраться до наших кошельков, и для всех компаний, чтобы получить данные о нас. «Гениальная» модель, которая принесла нам бесплатную почту Gmail, блоги, подкасты и другой контент, также превратила нас в нечто иное, чем в настоящих клиентов, — в нечто, напоминающее лабораторную обезьяну.

Реальность - это галлюцинация!

Доктор. Анил Сет из Университета Сассекса — один из ведущих нейробиологов, изучающих сознание и наше восприятие реальности. Сет обнаружил, что то, что мы называем реальностью, является галлюцинацией, которая корректируется с помощью последовательных приближений или догадок, сделанных нашими сенсорными входами (вау, это сногсшибательно!).

Мы называем интуицию нашим «нутром» не зря. Во время стрессовой ситуации, например, в условиях «бей или беги», миндалевидное тело контролирует несколько аспектов желудочно-кишечного тракта, и мы чувствуем это сжатие нашего «кишечника» и призыв к действию. Проблема в том, что наши сенсорные входы одновременно и автономно ограничены. Таким образом, чем больше мы действуем таким образом, тем меньше мы воспринимаем объективные данные и тем больше вероятность того, что нас введет в заблуждение «туннельное зрение».

Среди быстрых изменений и возрастающей сложности мы жаждем простого и однозначного

Я наблюдал увеличение нашей информационной перегрузки в течение 20 лет, и я видел индивидуальные и культурные изменения, когда мы реагировали. Мне нужно было написать статью о том, что я узнал, и напомнить другим, что единственный способ, которым мы действительно уступаем контроль, — это когда мы не действуем с целью и намерением.

Среди двусмысленности и необходимости принимать быстрые решения на основе слишком большого количества или неоднозначной информации мы жаждем простого и детерминированного. В нашей природе искать ментальные ярлыки. Мы называем эти небольшие «эмпирические правила» эвристиками, а их близкими спутниками являются предположения и предубеждения.

Почему я включаю предвзятость в качестве ярлыка? Одним из распространенных клише для субъективного ума является то, что он «видит то, что хочет видеть». Это может быть более точно сформулировано как видение того, что требует наименьших усилий, чтобы увидеть. Предрассудки текут вниз по течению, в том же направлении, что и импульс мозга предвзятого человека. Требуется больше усилий, чтобы сдерживать импульсы и заставлять разум воздерживаться от суждений и оценивать доказательства. Эвристики, предположения, предубеждения и предубеждения — все они происходят из одной и той же экономии энергии или лени, которую мы пытаемся применить, чтобы справиться с ситуацией с минимальными затратами.

Предположение: быстро = активно и конкурентоспособно, медленно = альтернативные издержки и неопределенность.

Мы восхищаемся быстротой и абсолютностью и боимся сомнения. Быстрый — это проактивный, конкурентоспособный и успешный. Медленный накапливает альтернативные издержки и недостатки позднего хода. «Сделайте это сейчас, а затем внесите коррективы» — это предположение, но последняя часть редко является реальностью. Я хочу отметить, что «Быстро против Медленно» — это просто один из аспектов, с помощью которого можно описать два наиболее известных метода принятия решений человеком. Другой способ описать это может быть «Мелкий против Глубокого». Это смещает положительную коннотацию к последнему из двух терминов. Трудно кого-то убедить в том, что «медленное» мышление предпочтительнее «быстрого», но если я назову это «глубоким» мышлением, я могу чего-то добиться 😂. Ах, какая польза от времени, которое я провел в маркетинге!

Книга лауреата Нобелевской премии израильского ученого Даниэля Канемана Думай быстро и медленно – хорошее место, чтобы узнать о различиях между интуитивными или интуитивными решениями и преднамеренными аналитическими решениями. Ричард Талер из Чикагского университета, а также Канеман и его бывший партнер по исследованиям Амос Тверски считаются основателями области поведенческой экономики. За годы экспериментов с теорией игр эти ученые выявили характерные эвристики и предубеждения, оказывающие значительное влияние на человеческую природу. Одна из самых интересных деталей, которую я почерпнул из работы Канемана и Талера, заключается в том, что уровень образования и экономический или социальный статус не уменьшают эффект того, что они назвали когнитивными иллюзиями (если бы это была система, мы бы назвали ее bug'), и может фактически увеличить близорукость человека.

Мы используем разные области нашего мозга для быстрого и медленного мышления, и, тренируя одну или другую, мы расширяем определенные нейронные связи и даже выделяем большую область нашего мозга для ее поддержки. Чем больше мы делаем Что-нибудь, тем больше наш мозг адаптируется, «обучая» новые нейронные связи и расширяя серое пространство, предназначенное для этого. Увлекательный материал по нейробиологии, но давайте пропустим его и посмотрим на упрощения, используемые для быстрого мышления — эвристику, предположения и предвзятость.

Эвристика — это короткий путь, который не имеет эмпирической основы, но который, как мы надеемся, даст нам ответ, который будет иметь высокую корреляцию с истиной, которую мы ищем. Хорошим примером является рост доверия к «Экспертам», равно как и доверие к мудрости толпы или любой другой эвристике выбора товаров или услуг. Эти эвристики позволяют нашему мозгу собирать сбалансированную информацию и пытаться принять объективное решение. Мы склонны подражать тем, кем восхищаемся, даже в тех областях, в которых известный человек/знаменитость/эксперт не имеет известной квалификации. Эта эвристика известна под несколькими названиями, но я предпочитаю «эффект ореола».

В поисках эксперта: история здоровья Афины

Майкл Льюис, автор… ну, всех замечательных научно-популярных книг за последние 30 лет, осветил работы Канемана и Тверски в своей книге The Undoing Project. В третьем сезоне своего подкаста Против правил он затронул проблему с экспертами и пригласил Тодда Паркса, основателя Athena Health, рассказать историю об экспертах, связанных с выставлением счетов за медицинские услуги. Звучит захватывающе, не правда ли! Тем не менее, история о выявлении эксперта и осознании ее важности для миссии, а также критический бизнес-месседж о необходимости быть готовым развернуться и решить важнейшую проблему оказались увлекательными.

Тодд и его брат Эдди основали Athena, чтобы стать общенациональной сетью доступных и высокоэффективных клиник дородового ухода. Они начали с единственной клиники в округе Сан-Диего и быстро обнаружили, что получение выплат от страховых компаний по претензиям является проблемой, которая либо спасет, либо погубит бизнес. Эта команда потенциальных предпринимателей, способных уничтожить мир, работала круглосуточно только для того, чтобы получать деньги и держать двери открытыми в своей первоначальной клинике Proof-of-Concept.

Они пришли к выводу, что им нужен эксперт по работе с претензиями, и это не будет кто-то, кто заявит, что является экспертом. Настоящим экспертом, как говорит Тодд, обычно является L6 в больничной бюрократии — на 6 уровней ниже исполнительного директора, вероятно, находящийся в подвальном кабинете без окон. Хотя этот человек без колебаний заговорит с кем-либо о вопросах выставления счетов, он не склонен к саморекламе. Они нашли Сью Хендерсон, опытную бухгалтерию и администрацию больниц с двадцатилетним стажем в Массачусетсе. Возможно, Льюису понравилась эта история из-за параллелей с «Маниболом»: ложные предположения о ценности человеческих активов приводят к возможности перевернуть отрасль с ног на голову и использовать нереализованную стоимость в качестве арбитража.

Моя точка зрения в рассказе об Athena Health заключается в том, что основатели должны были проверить свои первоначальные предположения о факторах успеха для бизнеса и типе специалистов, которые им нужны. На собственном горьком опыте они узнали, что существуют тысячи причин, по которым страховщик может оправдать неуплату претензии. В соответствии с истинным медленным мышлением (и в качестве отличного примера методологии бережливого стартапа) бизнес развернулся, чтобы привлечь лучшего специалиста по выставлению счетов за медицинские услуги, которого они могли найти, и построить бизнес вокруг решения огромной проблемы с медленной оплатой медицинских требований.

Даже простые решения имеют четыре возможных результата

Когда машина или человек делает прогноз (допустим, двоичный, как в True/False, Yes/No, Compatible/Jerk, Accept/Reject). Есть две возможности для вашего «предсказания» и две возможности для действительного результата, или «истины». Это означает, что мы можем совершать два типа ошибок: ложноположительные (известные как ошибки типа I) или ложноотрицательные результаты (известные как ошибки типа II).

Каждый раз, когда мы принимаем бинарное решение, у нас есть риск ложноположительного или ложноотрицательного результата. Эвристики и допущения экономят много времени по сравнению с проведением объективного анализа, но им присуща предвзятость, поэтому важно сопоставить экономию времени с последствиями неправильного решения.

Возьмем, к примеру, рекрутинг, где наши собственные предубеждения могут иметь большое влияние на результат. Из-за явления, называемого предвзятостью атрибуции, мы склонны интерпретировать поведение других в контексте нашей собственной реальности. Возвращаясь к определению реальности доктором Сетом как очень субъективной галлюцинации, это означает, что большая часть атрибуции, которую мы делаем с другими, будет ошибочной. Это хорошая причина, чтобы несколько человек участвовали в принятии решений по набору персонала и пытались оценивать способности с помощью объективных критериев.

В Проблеме выравнивания: машинное обучение и человеческие ценности Брайана Кристиана и Оружии математического разрушения Кэти О’Нил авторы подробно описывают убедительные истории, в которых мы уступили доверию анализу данных и алгоритмам прогнозирования только для того, чтобы понять мы недооценили их потенциал предвзятости. Первые наборы векторов слов, обученные на огромных корпусах текстов, созданных людьми, представляли собой затруднительное положение. Долгая история предубеждений в человеческом письме просочилась в векторы, созданные этими моделями машинного обучения. Алгоритмы не были предвзятыми, но делало ли это их предвзятый вывод приемлемым? Сохранение бдительности — хороший повод держать аналитический мозг в тонусе!

Недавно я услышал Дэниела Канемана в подкасте, где он сказал, что неразумно думать, что наши предположения не будут учитываться в таких вещах, как решения о найме, но он рекомендовал сдерживать инстинкты достаточно долго, чтобы собрать сбалансированные данные и провести логический анализ. После этого вы можете решать, как хотите, но, по крайней мере, вы дали шанс своим быстрым и медленным процессам взвеситься!

Ничто из этого не имело бы значения, если бы не возможности арбитража, которые представляет любое неправильное направление масс. Вопрос в том, где наша массовая отсрочка автоматизации и сила агрегаторов создали возможности для арбитража?