Большинство создателей документальных фильмов не являются пропагандистами: они намеренно не вводят в заблуждение свою аудиторию. Точно так же автобиографии и мемуары пишутся не для того, чтобы убедить историков, экспертов по памяти и журналистов в чем-либо, а для того, чтобы обратиться к поклонникам и последователям их авторов. Тем не менее, выбирая, что показать, а что опустить, что выделить, а о чем упомянуть мимоходом, и даже какой саундтрек включить, документалисты формируют определенное мнение. На самом деле в фильме Мюррея, возможно, была опущена информация из истории Дага, которая наводила бы на мысль, что он все это время притворялся [4].
В рамках своей области эксперты могут распознать и интерпретировать больше закономерностей, чем новички, поэтому их сложнее обмануть. Однако, отклоняясь слишком далеко от своей специальности, они могут попасть в руки мошенников.
Как ученые-когнитивисты, мы не являемся целевой аудиторией фильма «Неопознанный белый мужчина». Для нас это демонстрация того, как люди неправильно понимают механизмы работы памяти, а не тематическое исследование ее разрушения. Эксперты в любой области могут распознать и интерпретировать больше закономерностей, чем новички, поэтому они лучше понимают, когда следует проявить подозрительность. Их более обширные знания позволяют им выявлять лжецов, которые ведут себя так, будто знают свой предмет. Именно так шахматные гроссмейстеры пришли к выводу, что Джон фон Нейман не был хорошим шахматистом.
Но даже эксперты не застрахованы от того, что их могут одурачить. Сам по себе их опыт частично состоит из сильных ожиданий относительно того, как все должно работать, и опытные мошенники могут этим воспользоваться. Джон Дрю сфабриковал документацию о происхождении поддельных картин Джона Майатта и оставил ее именно там, где эксперты ожидали бы ее найти. Дидерик Стапель получил свои многочисленные поддельные документы путем научной экспертной оценки, представив результаты, которые соответствовали тому, что ожидали увидеть специалисты в его области. И хотя они не пытались никого обмануть, Трафтон Дрю и его коллеги показали, что практикующие онкологи настолько хорошо находят опухоли на компьютерной томографии (то, что они ожидали увидеть), что часто пропускают горилл размером с опухоль, которые были намеренно вставлены в изображения [5].
Когда эксперты, сами того не осознавая, отклоняются слишком далеко от своей специальности, они могут быть использованы мошенниками. Некоторые лидеры технологической индустрии неоднократно заявляли о неизбежности всеобщего распространения искусственного интеллекта – создания сущностей, которые будут способны, подобно людям, к широкому спектру интеллектуального поведения.
Люди, которые делают подобные прогнозы, похоже, находятся под влиянием самых впечатляющих примеров того, насколько хорошо новые модели машинного обучения, такие как ChatGPT и DALL-E, справляются с созданием реалистичного языка и красивых картинок. Но эти системы, как правило, работают хорошо только при наличии правильных подсказок, а их популяризаторы преуменьшают или игнорируют случаи, когда аналогичные подсказки приводят к полному провалу. То, что кажется разумной беседой, часто является пустой болтовней с ботом, чья сообразительность заключается в том, что он проглатывает огромные объемы текста и отвечает, получая доступ к статистически наиболее релевантным материалам в своем наборе данных. У бота нет обязательств говорить правду, потому что его код не включает в себя концепцию правды. То, как люди реагируют на технологию, которую Гэри Маркус называет «автозаполнением на стероидах», может больше сказать о том, как люди выводят глубокие, значимые причины из поверхностных паттернов, чем об интеллекте лежащей в основе модели. Эти демонстрации настолько соблазнительны, что в 2022 году сотрудник Google попал в заголовки газет из-за своей убежденности в том, что интерактивная языковая модель фирмы LaMDA стала «разумной» и заслуживает статуса юридического лица (а также собственного юриста). Всегда имейте в виду, что – подобно современным примерам искусственного интеллекта – человеческий опыт ограничен, а не универсален: он дает большое преимущество лишь в небольшой предметной области [6].
В РАМКАХ СВОЕЙ ОБЛАСТИ ЭКСПЕРТЫ МОГУТ РАСПОЗНАТЬ И ИНТЕРПРЕТИРОВАТЬ БОЛЬШЕ ЗАКОНОМЕРНОСТЕЙ, ЧЕМ НОВИЧКИ, ПОЭТОМУ ИХ СЛОЖНЕЕ ОБМАНУТЬ. ОДНАКО, ОТКЛОНЯЯСЬ СЛИШКОМ ДАЛЕКО ОТ СВОЕЙ СПЕЦИАЛЬНОСТИ, ОНИ МОГУТ ПОПАСТЬ В РУКИ МОШЕННИКОВ.
ОНИ ОБРАЩАЮТСЯ ИМЕННО К ВАМ СЛУЧАЙНО
Как только афера разоблачена и разобрана, часто кажется, что только наивный и невежественный человек мог попасться на ее удочку. Если восприимчивость к чуши делает нас более уязвимыми, но опыт может защитить нас, как мошенники узнают, кого выбрать в качестве жертвы? Изощренные махинации могут быть нацелены на отдельного человека или группу лиц, но во многих случаях мошенники полагаются на то, что их жертвы выдадут себя.
Если вы достаточно долго пробыли в Интернете, вы, вероятно, получали электронные письма от «нигерийского принца», начинающиеся с дразнящей фразы типа «Я обращаюсь именно к вам не случайно» и предлагающие перевести огромные богатства на ваш банковский счет, если вы сначала отправите небольшую сумму наличными. В 2006 году газета The New Yorker описала пятидесятилетнего психотерапевта из Массачусетса, которому некий капитан Джошуа Мботе из Африки предложил помочь вернуть утраченное состояние в размере 55 миллионов долларов. В течение следующих полутора лет психотерапевт в конечном итоге потерял 80 000 долларов, а поскольку афера также включала обналичивание фальшивых чеков, позже он был приговорен к двум годам тюремного заключения за банковское мошенничество и другие преступления. Этот бедняга производит впечатление умного и благонамеренного человека, но все же он сильно попался на удочку мошенника. Он был далеко не единственной жертвой в 2000-х годах: по данным голландской фирмы Ultrascan, мошенничество с авансовыми платежами, одной из разновидностей которого является «нигерийский принц», только в 2009 году в совокупности принесло 9,3 миллиарда долларов [7].
Не так давно Дэн получил электронное письмо с заманчивой темой «Деловой вопрос». На плохом английском некто, называющий себя «мистер Барен Шани», предложил инвестировать до 200 миллионов евро, если Дэн сможет предоставить «убедительный бизнес-проект». Дэн ненадолго задумался: не предложить ли партнеру распространить книгу о том, как не стать жертвой мошенников. В конце концов он не ответил, потому что был уверен, что в какой-то момент, прежде чем получить инвестиции, эти богатые люди попросят его помочь им оплатить некоторые незначительные расходы, вероятно, потому, что все их средства заморожены, – конечно, за исключением «инвестиций» в размере 200 миллионов евро.
В отличие от многих попыток фишинга, которые внешне имитируют легальные обращения, эти электронные письма «ни с того ни с сего» содержат откровенно нелепые предложения. Это кажется контрпродуктивным, вот почему исследователь информационной безопасности Кормак Херли в заголовке своей статьи 2012 года задал вопрос: «Почему нигерийские мошенники говорят, что они