Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

Яну Сизову, с которым мы много спорили о том и этом

Предисловие

Где здесь место пробиркам?

В фантастических романах главное это было радио. При нем ожидалось счастье человечества. Вот радио есть, а счастья нет.
Илья Ильф
Записные книжки

Я ехал в метро с книжкой про изобретателей, а человек, который долго щурился на страницы у меня из-за плеча, спросил, о чем таком интересном я читаю. «Может быть, вы интересовались — в Питере на Дворцовой площади стоит колонна Монферрана, весит 600 тонн, и совершенно непонятно, как ее туда поставили». За следующие пять станций я услышал несколько увлекательных историй о роли сверхъестественного — которым власти якобы давным-давно научились пользоваться, но скрывают — в строительном деле. На моей станции собеседник высунулся из вагона и кричал мне вслед, что тибетские монахи умеют, собравшись на возвышенности в количестве ста человек, вместе издать такой особенный звук, который заставляет тяжелый валун подниматься в воздух.

В этой книге не будет ничего о том, почему на самом деле камни не летают под действием особенного звука. Меня заинтересовало другое. Кто уже успел представить себе пожилого городского сумасшедшего, тот неправ. Со мной разговаривал — я специально поинтересовался профессией — тимлид, то есть руководитель группы программистов, из знаменитой российской IT-компании. Ему было за тридцать, и он окончил хороший технический вуз. Когда вы расплачивались за эту книжку в магазине и получили у кассира чек, с большой вероятностью вы косвенно воспользовались результатами его работы.

Хотя идея этой книги к тому моменту давно сложилась у меня в голове, благодаря разговору в метро я смог сформулировать, на какой главный вопрос она отвечает: почему в ерунду верят хорошие и симпатичные нам люди. Не воображаемые мракобесы с клюкой, а родители друзей и мои собственные сверстники с хорошим образованием.

Приятельница-режиссер вспоминала, как ее берлинский знакомый — поэт и университетский преподаватель литературы — доказывал ей невозможность Холокоста. На стенках газовых камер нет следов яда, говорил он, показания Нюрнбергского процесса выбиты под пытками, убитые на фотографиях из концлагерей — жертвы эпидемии тифа, а газ «Циклон Б» использовали не для уничтожения людей, а для дезинфекции тифозных бараков. И на все рациональные доводы, имеющие в виду документы и свидетельства выживших, приводил свои соображения о том, как мировое правительство фальсифицировало каждую страницу в архивах.

Теории заговора, фальшивые новости, страх перед прививками — это все о людях, с которыми мы общаемся. Кто-то боится разогревать еду в микроволновке: микроволны заряжают пищу радиацией и вызывают рак. Кто-то доверительно сообщает: зато курение табака, наоборот, с раком никак не связано — миф про его опасность придумало и внедрило антитабачное лобби. Кто-то перепощивает фразу про «убить всех русских людей», будто бы принадлежащую Маргарет Тэтчер. Кто-то борется с жуликами, которые якобы выдумали свое глобальное потепление.

Примеры ошибочных суждений вокруг и около науки приходят мне в голову первыми (не зря же я научный журналист), но не это тут главное. Разоблачать антинаучные заблуждения — наверное, хорошее и полезное дело, которым занимается целая армия просветителей. На эту тему за последние несколько лет вышел чуть ли не десяток книг. Но мне интереснее, не во что люди верят, а почему. И как так вышло, что спустя год и два после появления всех этих безусловно полезных книг люди почему-то продолжают думать неправильно.

Вера в заговор — в каком-то смысле крайность. А между ней и проверенными фактами лежит неправда менее радикальная. Фейковые новости, например, не обязательно ставят под сомнение рациональную картину мира, где камни не летают. Они просто приписывают людям слова и действия, которых те не говорили и не совершали. И иногда этого достаточно, чтобы подтолкнуть кого-нибудь к идее пойти восстанавливать справедливость с оружием в руках: например, расстрелять посетителей пиццерии, чтобы наказать таким образом педофилов в правительстве.

Особенно загадочно, что жертвами некачественного знания становятся не только те, кто ограничен в доступе к информации, но и мы — со своими макбуками, научно-популярными книжками, лентой Facebook и лекциями на платформе Coursera. И (неожиданно) самые новые инструменты, которые у нас ассоциируются с прогрессом в чистом виде, — та самая лента Facebook, видео с места событий на YouTube, круглосуточные новости и «Википедия» — поддерживают вокруг нас территорию неправды в разных ее формах.

Есть специальный корпус просветительских текстов, которые учат: не попадайтесь на удочку таких-то и таких-то заблуждений. Рецепты против лжи — полезная штука, но не самая интересная. Заблуждения — часть ландшафта вокруг. Неправда влияет на то, как видят мир — и как ведут себя в жизни — продавщица в соседнем супермаркете, ваши друзья и родители. Ну и в конечном счете — вы сами. Опознать себя как часть этого ландшафта не менее интересно, чем научиться делать вид, что вся история про неправду в современном мире про каких-то других людей, наивных и глупых.

•••

Просто взять и объявить сумасшедшими всех, кто верит во что-нибудь невероятное (вроде летающих камней или мирового еврейского правительства, которое выдумало Холокост) — тупиковый путь, если вы хотите разобраться, откуда заблуждения берутся.

На такие вопросы, как ни странно, особенно любят отвечать ученые. Хотя мы и привыкли думать, что науку интересуют одни объективные факты — как устроен мир на самом деле. Разве вера в инопланетян, политические теории заговора, пропаганда и дезинформация имеют отношение к науке? В качестве объекта изучения — очень даже.

Когда-то науку о мозге очень сильно продвинуло наблюдение за иллюзиями, то есть ошибками восприятия. Вот, например, знаменитая оптическая иллюзия Мюллера-Лайера: если человек видит на бумаге две линии одинаковой длины, но одна кажется ему длиннее, а другая короче из-за пририсованных на концах стрелочек, — это не он сумасшедший, это механизмы зрения заставляют мозг ошибаться (рис. 1). И если мы будем присматриваться к примерам, на которых он ошибается, мы что-нибудь новое про механизмы зрения поймем. Наше знание про слепое пятно на сетчатке и саккады, быстрые движения глаз, в результате которых цельная картинка собирается из обрывков, — прямой результат изучения таких иллюзий.

Иллюзии бывают не только зрительными, но и когнитивными — и как раз их удобно изучать на примере фальшивых новостей и теорий заговора. Нейробиологи укладывают подопытных в томографы, чтобы изучать ложные воспоминания, ошибку подтверждения и эффект обратного огня на материале газетных заметок про политику и дискуссий про гей-браки, аборты или запрет оружия. А генетики выясняют, какие комбинации генов у новорожденного создают предрасположенность к тому, чтобы ребенок вырос упертым либералом или бескомпромиссным консерватором — хотя ему самому и будет казаться, что он выработал свои политические взгляды в результате долгого анализа всех за и против.

Основной материал для таких исследований — разговоры людей про политику в том или ином виде. Потому что политика — это все поле коллективных интересов. Трудно изучать распространение слухов на примере частных историй, которые касаются ваших догадок о том, что случилось у вашего троюродного брата с вашей двоюродной сестрой. Такой слух не имеет шансов уйти далеко, потому что люди уже в трех рукопожатиях от вас не знают никого из действующих лиц.

Даже когда где-нибудь в соцсетях обсуждают очередной слух о вреде прививок, ГМО и способности кока-колы растворять наши кости — это все равно политический разговор о здравоохранении и надзоре за качеством товаров. Человек обращается к неопределенным людям по другую сторону монитора и пытается их убедить: нынешний порядок вещей плох, в общих интересах его поменять коллективным усилием — например, подписать петицию о запрете кока-колы.

Поэтому ученые, наверное, не виноваты в том, что предмет их исследований — не какая-то абстрактная информация, а заряженные ненавистью тексты про масонов, президента Обаму и вообще про власти-которые-скрывают. И, разумеется, про заговоры тех же ученых против простых людей. Так вышло.

•••

На тему лжи, пропаганды, заговоров и слухов давным-давно пишут статьи и диссертации социологи с психологами и психиатрами — представители наук, которые по-английски называют soft science, «мягкой» наукой (в противоположность «твердым» вроде математики или нейробиологии). Племянник и последователь Фрейда Эдвард Бернейс опубликовал в 1928 году книгу «Пропаганда» (1) — руководство по манипуляции людьми, адресованное в первую очередь рекламщикам. В 1957 году напечатали бестселлер Вэнса Паккарда «Тайные манипуляторы» (2), взгляд с другой стороны баррикад, где разоблачаются игры рекламщиков с нашими подсознательными установками. Теодор Адорно, социолог и философ, после Второй мировой развил теорию «авторитарной личности» — человека толпы, который пропаганде легко поддается.

Но есть проблема. Еще во времена Фрейда «мягкие» науки заработали репутацию таких областей знания, где редко получается дать окончательный ответ на какой-нибудь вопрос. И новая теория часто не отменяет старую, даже если ей противоречит.

Ни Адорно, ни Паккард не ставили экспериментов и не делали количественных выводов, как физики или химики. Кто-то основывался на своем опыте практикующего врача, кто-то исходил из собственных размышлений о природе человека — и все это подходы, бесконечно далекие от строгости тех методов, которые применяют в физике элементарных частиц или в клеточной биологии.

Книги (по крайней мере, Бернейса и Паккарда) переиздают на русском раз за разом, и такое особенно любят рекомендовать преподаватели факультетов маркетинга, политологии и рекламы своим студентам — чуть ли не как учебники. Другое дело, что психологические теории, на которых они основаны, сейчас невозможно воспринимать всерьез. Понятия вроде Эдипова комплекса, мортидо и суперэго давно пропали из учебников о том, как устроен мозг.

Словом, наука об ошибках и заговорах, внушаемости и вере в чепуху только совсем недавно — лет десять как — благодаря томографам и большим данным стала достаточно «твердой» и строгой.

С появлением соцсетей с их миллиардами записей в качестве больших данных стало возможно делать строгие количественные выводы о том, как передается информация от человека к человеку. Такими выводами занимаются, в частности, исследовательские команды самих компаний Facebook и Twitter, куда нанимают лучших математиков, социологов и теоретиков коммуникаций.

•••

Биолог-эволюционист Ричард Докинз сорок лет назад сравнил распространение идей с распространением генов. Если ген — единица генетической информации, то для единицы культурной информации Докинз придумал короткое и емкое слово «мем». В конце концов так стали называть любые вирусные картинки и бродячие цитаты в интернете, но Докинз вкладывал в это понятие несколько более глубокий смысл.

Согласно его книге «Эгоистичный ген» (3), ген важнее своего хозяина — будь то бактерия, человек или любое другое живое существо. Мы — просто вспомогательное приспособление, которым кусок ДНК пользуется в своих интересах. Если ген фермента ДНК-полимеразы встречается и у человека, и у банана — ему, гену, в некотором смысле все равно, в чьем теле пробивать себе дорогу в будущее.

Биология за последние полвека сильно продвинулась вперед как раз за счет изучения «плохих» и «вредных» генов — вроде тех, что вызывают рак или помогают вирусу иммунодефицита человека (ВИЧ) прописаться в человеческом геноме. Благодаря им стало возможно понять, как работают гены в нормальной здоровой клетке.

С идеями та же ситуация: беспристрастный взгляд на распространение «плохих» и «некачественных» идей — антинаучных слухов и бредовых теорий заговора, писем счастья и пропаганды, притворяющейся простыми человеческими историями («я сама крымчанка, дочь офицера, живу тут пятьдесят лет…») — обещает науке больше пользы, чем изучение всего хорошего.

Во лжи интересно то, почему она так жизнеспособна. Может быть, всю работу по внедрению лжи в сознание проделывают коварные заинтересованные злодеи, которые захватили почту, телефон, телеграф и имеют полный контроль над передачей любой информации? Так мы представляем — по антиутопиям вроде «1984» Оруэлла — работу «Большого Брата» в тоталитарном государстве.

Однако в реальности люди почему-то не только охотно потребляют неправду, когда ей есть альтернатива, но и включаются в цепь ее ретрансляции добровольно — и основную работу по внедрению дезинформации в умы следующих жертв проделывают сами, без Большого Брата. Пересылают друзьям письма счастья, неправдоподобные фотографии со слезливой сопроводительной историей, новости про закон, принятый несуществующими депутатами, или еще что-нибудь в том же духе. В большинстве случаев в этот момент у них за плечом не стоит автоматчик, диктующий что писать, и до опровергающих ложь аргументов всего два клика в Google.

Ложь проще отслеживать, чем правду: изъяны информации — ее опознавательный знак, что-то вроде отпечатков пальцев. Поэтому ее исследования и должны прояснить, как человечество способно распоряжаться информацией вообще.

•••

Стоит сказать пару слов о том, что заставило эту книгу появиться на свет. Автор — научный журналист, который последние тринадцать лет писал про межпланетные зонды, редактирование генома и мозг для самых разных изданий, начиная со старой Lenta.ru (не следует путать ее с одноименным сайтом, существующим сейчас), GEO и «Вокруг света» и заканчивая журналом Vogue.

Не лучше ли было бы научному журналисту потратить время на книжку, посвященную бактериям или космосу? Как раз тогда, когда я сел дописывать предисловие, по университетским библиотекам развозят свежий номер Science [1] — одного из самых старых и уважаемых научных журналов, — на обложке у которого нарисовано нечто вроде сложных снопов искр. Так могли бы выглядеть следы космических лучей в атмосфере. Но это никакие не космические лучи, а схема каскадов слухов в Twitter; тема номера — «Как распространяется ложь». А про информационные пузыри в соцсетях пишут книги профессора математики. Неправда в ее новых формах становится чем-то таким, чего больше нельзя не замечать, даже если область ваших интересов — теория алгоритмов или диалектология.

Ссылаться на академическую науку применительно ко сну, завтраку, утренней пробежке, переутомлению на работе и походу в магазин за свитером стало привычным делом. Вы не просто бессильны перед сочным и вредным бургером — это сбой дофаминовой системы наград мозга. А любовь к сладкому — продукт эволюционных стратегий, закрепившихся в ходе миллионов лет превращения обезьяны в человека, когда концентрированные калории были очень редки. Мы уже научились (и даже привыкли) рассуждать таким образом про еду: на эту тему выходят и переводятся книжки с обязательным мозгом на обложке. А про наше восприятие политических новостей и пропагандистских мемов в соцсетях — еще нет.

Мне как научному журналисту показалось важным заполнить этот пробел.

•••

Курс философа Андрея Великанова сделал моей привычкой читать не вдоль, а поперек: искать ключи к проблемам в том числе и в текстах, которые не обещают прямо в заголовке раз и навсегда решить проблему за меня. За три года существования кружка слушателей курса мы успели пообсуждать — в той или иной форме — разные сюжеты, разобранные в книге. Я благодарен Андрею Григорьевичу и моим друзьям из числа слушателей, бывшим и нынешним — Оле Алексеенко, Сереже Кирееву, Алене Тоже и моей жене Марине Зайцевой — за все разговоры (про носорога Витгенштейна, выдуманную войну Бодрийяра, чужую красоту, секты, психологические тренинги у менеджеров и механизмы передачи культурного знания у желтой русской канарейки), которые пришлось додумывать задним числом, а потом писать текст так, как если бы я спорил вслух с живым и критически настроенным собеседником. Марине отдельное спасибо за готовность брать на себя роль такого не-воображаемого собеседника всякий раз, когда я оканчивал очередную главу.

Для меня большая честь знать, что люди, которым я обязан своим способом думать, — Мария Степанова, Шура Буртин, Андрей Великанов и, разумеется, мои родители Виктория Козловская и Михаил Дрейзлер — потратили сколько-то времени своей жизни на чтение моих постов в соцсетях, и буду рад, если они заглянут сюда.

Мой друг Ян ничего этого не прочтет, он умер. Книга посвящается ему.

В ходе работы над главами о больших данных и алгоритмах автор настолько увлекся сюжетом, что решил поступить в Школу анализа данных «Яндекса», окончил ее через два года и устроился на работу в «Яндекс» специалистом по машинному обучению — писать код и тренировать математические модели. Поэтому, к сожалению, в книге, где много написано про соцсети, нейросети, Facebook и Google, не будет ни слова о «Яндексе» — чтобы избежать конфликта интересов между автором-программистом и автором-журналистом.

Многие тексты, из которых выросли разные ее главы, выходили в разное время на сайтах Colta.ru, Snob.ru и Republic.ru, в журналах New Times и «Кот Шрёдингера»; спасибо их редакторам и редакциям.

Глава 1

Фейковые новости

Каждый, кто покупал «Газету для дураков», говорил, что он покупает ее не потому, что считает себя дураком, а потому, что ему интересно узнать, о чем там для дураков пишут.
Николай Носов
Незнайка на Луне

Известно, что на одну осмысленную строчку или истинное сообщение приходятся тысячи бессмыслиц, груды словесного хлама и абракадабры.
Хорхе Луис Борхес
Вавилонская библиотека

28-летний автомеханик садится с тремя подмастерьями в автомобиль и отправляется по делам в деревню неподалеку. Дело происходит на севере Индии, в штате Джаркханд, в мае 2017 года. На полпути машина утыкается в стихийный блокпост, где дежурят взволнованные местные.

Автомеханик не ждет от людей на блокпосту, вооруженных палками и кирпичами, ничего хорошего — и жмет на газ. Это ошибка. Дом родственников, где автомеханик остановится переночевать, к утру окружит тысячная толпа и потребует выдать гостей. Погибнут все четверо, тела и машину толпа сожжет.

Эта история могла бы случиться на Ближнем Востоке три тысячи лет назад: похожий эпизод есть прямо в Библии. Там к хорошему человеку Лоту просятся на ночлег путешественники, а потом он видит рядом с домом толпу, недовольную присутствием чужаков. «Еще не легли они спать, как городские жители, <…>, от молодого до старого, весь народ со всех концов города, окружили дом и вызвали Лота и говорили ему: где люди, пришедшие к тебе на ночь? выведи их к нам; мы познаем их. Лот вышел к ним ко входу, и запер за собою дверь, и сказал им: братья мои, не делайте зла» (4).

Но у индийской истории есть одна особенность, невозможная в библейские времена: ее спровоцировала фальшивая новость, которую жители Джаркханда пересылали друг другу с телефона на телефон в мессенджере WhatsApp. В сообщении говорилось, что загадочные «люди в черном» перебираются из деревни в деревню, похищают и убивают детей. Фотографии (каких-то) изуродованных детских тел рассылали вместе с новостью — поэтому места для сомнений не оставалось: вот же фотоснимок, что тут обсуждать. И тогда самые смелые организовывают на дороге свой блокпост.

За несколько месяцев до этого, в декабре 2016-го, в американской столице Вашингтоне человек пришел в пиццерию с автоматической винтовкой. Он не выглядел как арабский террорист — это был 28-летний блондин с хипстерской бородой по имени Эдгар Уэлш, который накануне приехал из маленького городка с 30-тысячным населением. Полиция легко уговорила его сдаться. Уэлш не хотел устраивать теракт, его задачей было с оружием в руках восстановить поруганную справедливость.

И в Вашингтоне Уэлша интересовали не Белый дом, не здание конгресса и даже не штаб-квартира Международного валютного фонда, которые принято обвинять в разных бедах простых бедных людей, — а пиццерия под названием «Комет Пинг-Понг» на одной из второстепенных улиц, куда он со своей винтовкой зашел и сделал несколько выстрелов. К счастью, он ни в кого не попал. Полиции Уэлш потом объяснил: пиццерия — не что иное, как прикрытие штаба педофилов, поставляющего детей для сексуальных развлечений Хиллари Клинтон и ее соратникам по демократической партии. Об этом, рассказал он, писали в интернете.

Сюжет действительно активно упоминался в новостях и даже получил название «Пиццагейт». Сайт WikiLeaks выложил украденную переписку главы избирательного штаба Клинтон, где среди прочего упоминалась пицца с сыром. Бдительные читатели решили — это неспроста: слова сheese pizza («сырная пицца») начинаются с тех же букв, что и child porn («детское порно»), и наверняка служат заговорщикам кодом, эвфемизмом для обозначения своих тайных планов. Пиццерия «Комет Пинг-Понг» обратила на себя внимание тем, что там глава штаба подозрительно часто для политика отмечал свои дни рождения. Совпадение? Вряд ли. Новые свидетельства объявлялись одно за другим: логотип пиццерии напоминает «тайный знак педофилов», ее посетители в отзывах на сайте упоминают носящихся по залу «детей без присмотра» — какие доказательства еще нужны неравнодушному гражданину своей страны? Поэтому Уэлш взял винтовку и решил: пора действовать.

И убитые в Индии, и Уэлш, которого посадили в тюрьму на четыре года, и посетители пиццерии, выжившие по чистой случайности, — жертвы фальшивых новостей (по-английски fake news, «фейковые новости»). Такие новости начали активно обсуждать совсем недавно. Академический словарь Коллинза объявил fake news словом 2017 года, и (независимо от его редакции) то же самое сделало Американское диалектологическое общество, которое на самом деле изучает не столько «диалекты» в школьном смысле слова, сколько состояние современного английского языка. Папа римский посвятил им свое ежегодное обращение к верующим. А на платформах edX и Coursera появилось несколько онлайн-курсов от крупных западных университетов, посвященных этому явлению.

Больше пишут, наверное, только про биткоины.

Из неудачного названия «фальшивые новости» совершенно не ясно, чему тут удивляться: ну новости, ну фальшивые. Люди и раньше подозревали, что СМИ не всегда сообщают правду, а термин «газетная утка» придумали чуть ли не в XVIII веке (версии про точную дату расходятся). Что тут нового? То, что раньше это был побочный эффект, маргинальное явление, дезинформация с целью развлечь. Новости про говорящих телят и инопланетян не занимали до сих пор такого важного места на фоне прочих — и уж точно не решали, кто будет править США следующие четыре года.

Оксфордский университет и Институт журналистики Reuters вместе провели несколько фокус-групп — и в результате с огорчением выяснили (5): «фейковыми новостями» широкая публика называет все что угодно. Необъективную журналистику. Пропаганду. Скрытую рекламу. Много шума по незначительному поводу. Новости, которые вам не нравятся.

По большому счету к феномену фейковых новостей все это имеет мало отношения. Определения, которыми предпочитают пользоваться исследователи, можно, сильно упрощая, свести к такому: фейковые новости — это грубая подделка под новости, которая не проходит самые базовые проверки на прочность и, несмотря на это, влияет на миллионы людей.

Социологи, которые подготовили на эту тему большой доклад для Европейского центра свободы СМИ, пишут: «Когда появились “фейковые новости”? Когда мы стали общаться в соцсетях» (6).

•••

В мае 2013 года газета Washington Post запустила у себя на сайте рубрику «Что было фейком в интернете на этой неделе» («What was fake on the Internet this week»), а через два с половиной года, в декабре 2015-го, ее редактор опубликовала прощальное письмо «Почему эта колонка последняя» (7). Закрыть рубрику пришлось не из-за того, что по Сети перестала циркулировать неправда, а, наоборот, потому, что ее стали производить в промышленных масштабах — и промышленными методами.

Индустрия неправды в интернете середины 2010-х разрослась так же взрывообразно, как сам интернет разросся в нулевые [2].

Кульминация случилась в конце 2016-го. Про фейковые новости начали активно говорить и писать накануне американских президентских выборов, в результате которых победил Дональд Трамп. Их называют ни много ни мало ключевой причиной этой победы. «Папа римский поддержал кандидатуру Дональда Трампа». «Письма Хиллари подтвердили, что она продавала оружие ИГИЛ». «Агент ФБР, который обнаружил секретные письма Хиллари, найден мертвым в своей квартире» — это только из тех сюжетов, которые собрали сотни тысяч перепостов.

На сайте Google Trends можно посмотреть на график популярности разных поисковых запросов: у запроса «фальшивые новости» (вводить его стоит по-английски — fake news) на сравнительно ровном графике из ниоткуда вырастает мощный пик в районе октября 2016 года, буквально накануне голосования. Про фальшивые новости в это время пишет New York Times, журнал New Yorker рисует карикатуры, сайт BuzzFeed публикует подборку «Топ-50 фальшивых новостей года». Тот же BuzzFeed сосчитал: топ-20 фальшивых новостей обогнали по лайкам и перепостам двадцать самых популярных статей настоящих СМИ (8).

•••

В феврале 2018 года журнал Science — один из двух самых влиятельных научных журналов мира, где впервые опубликовали, к примеру, результат полной расшифровки генома человека и статью про вирус иммунодефицита человека (ВИЧ), — сделал фейковые новости темой номера. Команда ученых собрала перепосты 126 000 новостей, лживых и правдивых, сделанных на протяжении десяти лет в соцсети Twitter, и выяснила: ложь распространяется заметно активнее правды (9).

Все трое авторов этого исследования работают в MIT Media Lab, медиалаборатории Массачусетского технологического института. Здесь когда-то придумали идею тачскринов (из нее вырос iPhone) и электронных чернил (а из нее — Kindle), концепцию «носимых устройств» (отсюда у нас шагомеры и пульсометры), специальный язык программирования для дошкольников и игру Guitar Hero, которая учит смотреть в глаза не монстрам, а толпе недовольных зрителей.

Подразделение MIT Media Lab, где разбирали данные Twitter, называется «Лаборатория социальных машин», и на ее сайте перечисляют инструменты, которыми здесь принято пользоваться, — машинное обучение, теория сетей, моделирование естественного языка. Словом, не самые традиционные средства для выяснения того, врут нам в интернете или не врут.

И сами ученые, взявшиеся за все эти подсчеты, мало похожи на обычных преподавателей обычного журфака. Профессор Деб Рой, глава Лаборатории социальных машин, несколько лет назад запустил стартап, который стал применять анализ данных к поведению телезрителей; стартап выкупила компания Twitter примерно за 60 млн долларов. Даже свои наблюдения за тем, как его годовалый сын учится говорить, Рой сумел превратить в академическое исследование по когнитивистике; его лекцию TED (10) об этой работе посмотрели в итоге 2,5 млн человек.

И вот что Рою с коллегами удалось выяснить. Фейковые новости добираются до первых 1500 адресатов в шесть раз быстрее, чем настоящие. А вероятность ретвита у отдельно взятой фальшивой новости на 70% выше.

Еще ученых занимал параметр, который они называют «глубиной каскадов», — как далеко новость способна разойтись по цепочкам ретвитов. Два твита с одинаковой аудиторией в 1 млн человек могут иметь совершенно разную живучесть. Если один твит вывесила знаменитость, его прочитал миллион подписчиков, и этим дело ограничилось — это самый неглубокий каскад, какой только можно себе вообразить. А бывает, что провинциальный водопроводчик сделал запись, ее хором ретвитнули пятьдесят из ста его друзей, потом друзья друзей (их уже тысячи) и так далее.

И с точки зрения «глубины» различия были особенно заметны. Правдивые новости никогда не пробивались дальше глубины 10, и все равно лучшие из фальшивых новостей в десять раз быстрее достигали цепочки в 19 перепостов.

•••

Социологи, которые написали доклад для Европейского центра свободы СМИ, объясняют: чтение (а главное, репосты) новостей — это не столько способ добыть информацию, сколько возможность показать себя другим людям (11). То есть социальный ритуал, который можно сравнить с посещением воскресной службы в церкви. Или с покупками в дорогом магазине. Нажимая на кнопку «поделиться», вы сообщаете, что такое-то событие важно для вашей картины мира (или, точнее, для картины мира человека, которым вы хотите казаться). «Делюсь новостью про свадьбу принца Гарри и огорчаюсь, что запретили брать ручных фазанов в салон самолета», — это одна роль, а «Я возмущаюсь новыми тарифами на электричество и радуюсь открытию станции метро “Селигерская”» — другая.

Обычно вы ждете реакции от людей, чья картина мира устроена похоже. А если вам важен отклик, то ценность фальшивых и настоящих новостей неодинаковая — и ложные выгодней истинных. Почему так происходит? Авторы статьи в Science утверждают: с точки зрения теории информации, которую разработал Клод Шеннон в 1940-е (это он придумал «бит» и стал применять понятие «энтропия», которым раньше пользовались только физики, к нашим знаниям о мире), сообщение тем ценнее, чем неожиданнее. Если вы живете посреди пустыни, прогноз «завтра будет тоже сухо» несет в себе меньше информации, чем прогноз «завтра выпадет снег». Поэтому неправдоподобные новости обещают больше нового знания — то есть являются «новостью» в превосходной степени. И привлекают к себе больше внимания.

В самом начале ученые из MIT рассчитывали, что математика поможет им найти в соцсетях тайные узлы — то есть влиятельных манипуляторов, «тысячников» и «десятитысячников», которые своим авторитетом убеждают других поверить в неправду. Но оказалось ровно наоборот: больше всего фальшивых новостей распространяют непопулярные пользователи. Потому что им это нужнее.

Психологическое исследование, которое в мае 2017-го напечатал European Journal of Social Psychology, показывает: распространять «особенное необщее знание» — в частности, новости вокруг и около теорий заговора — легкий способ почувствовать себя привилегированным меньшинством (12). Вы, один из немногих, делитесь с теми-кто-понимает информацией, недоступной для широких масс. Научная статья вышла под заголовком «Слишком особенные, чтобы дать себя обмануть». Команда психологов из Майнцского университета в Германии завербовала несколько сотен подопытных для участия в серии из четырех экспериментов и выяснила: склонность верить в теории заговора коррелирует с потребностью «быть особенным» и «не быть в стаде», какую, возможно, не удалось реализовать иначе (13). (Поэтому если вы встретили в интернете человека, определяющего своих оппонентов как «хомячков», которые на что-нибудь «ведутся», — скорее всего, у него имеется своя, конспирологическая, картина событий.)

•••

Спрос именно на фейковые новости делает понятным, почему первая попытка Facebook объявить им войну провалилась. В марте 2017 года соцсеть начала помечать отдельные новостные истории на английском специальной предупреждающей плашкой — красный восклицательный знак в треугольнике и рядом метка «спорное» (disputed) со ссылкой на разоблачающий разбор. Разметкой занимались вручную нанятые факт-чекеры. Уже в декабре, то есть всего через девять месяцев, эту практику свернули, потому что столкнулись с обратным эффектом. Стоило пометить новость как фальшивую, и число просмотров у нее взлетало: читатели чувствовали себя теперь уже меньшинством не просто избранным, а преследуемым. «Они пытаются заткнуть нам рты — так делайте больше репостов», — объяснял логику сопротивления в интервью британской газете Guardian автор одной из фальшивых историй (это был исторический материал про сотни тысяч ирландцев, якобы привезенных в США рабами) (14).

Кто пишет фальшивые новости? Если есть спрос и они расходятся как горячие пирожки, то производить их как минимум выгодно — и вовсе не потому, что вам заплатят из черной партийной кассы какие-нибудь политтехнологи. В каком-то смысле это самый дешевый контент, которым можно наполнить сайт, зарабатывающий показами самой обычной — не политической, а коммерческой — рекламы. Чтобы люди кликали по моргающим баннерам «онлайн-казино», «майнинговые фермы под ключ» или «быстрый заработок в интернете», их что-нибудь должно привести на страницу с этими баннерами. Короткие тексты про Клинтон, Трампа, либералов-педофилов и военных, которые вызывают ураганы своими испытаниями секретного оружия, и дешевле в производстве, чем порнография, и безопаснее с точки зрения закона, чем пиратские копии фильмов. Фальшивые новости, в общем, легальны почти всюду — за текст, который просто не соответствует действительности, мало где могут посадить в тюрьму.

Расследование британской газеты Guardian показало: полторы сотни протрамповских сайтов почему-то принадлежат жителям одного-единственного городка в Восточной Европе — а именно македонского Велеса с 44-тысячным населением. Один из владельцев этой сети признавался в интервью: они были бы не против публиковать любые другие новости — если бы по ним кликали в том же бешеном темпе, как и по новостям про Трампа. Накануне выборов они оказались самым прибыльным способом генерировать трафик — причем настолько выгодным, что если сначала новости просто копировались с американских консервативных сайтов, то потом македонцу пришлось нанимать американских авторов, чтобы те придумывали новости непосредственно для него. То, что могло бы быть политическим заказом, оказалось работой невидимой руки рынка — потому что так устроен интернет в 2018 году.

Фабрики вымышленных новостей чаще всего притворяются СМИ. Словосочетания National Report или News Examiner звучат похоже на названия солидных английских газет с историей (The Examiner, например — это реальная лондонская газета XIX века, где публиковались Диккенс и Теккерей). World News Daily Report, Empire News и News Nerd выдают себя за нечто помоложе и подинамичней. Сайты под такими названиями ежедневно десятками производят новости под заголовками вроде «Охранник Смитсоновского музея арестован за секс с 2500-летней египетской мумией» или «Подросток погиб после участия в “Огненном флешмобе” Facebook». Реальные факты в этих новостях не то чтобы искажены, а просто выдуманы от начала до конца.

Настоящие таблоиды — классические желтые газеты — такого себе позволить по большому счету не могли. Что делает человек, которому свежая газета на полном серьезе рассказала, что президент только что разбился в авиакатастрофе, в то время как тот жив-здоров? Больше не берет такую газету со стенда в супермаркете. Но у сайтов типа World News Daily Report нет аудитории, которую они могли бы потерять, — они просто не рассчитаны на то, что кто-то заходит на них напрямую или держит у себя в закладках. Целевая аудитория — те, кто узнает все новости из соцсетей. Поэтому задача сайта типа World News Daily Report — затеряться со своей новостью про мумию среди сообщений настоящих СМИ, просочиться к пользователям в ленту Facebook и заработать как можно больше репостов от людей, которые не привыкли перепроверять информацию.

Кэйтлин Дьюи — автор той самой закрывшейся колонки про фейки в Washington Post — утверждает (15): все это стало возможным только благодаря редизайну ленты Facebook в марте 2013-го. Добавился блок рекомендованных ссылок, которые «лайкнуло особенно много друзей». И ресурсы вроде World News Daily Report, паразитирующие на новых возможностях соцсети, стали рождаться на свет один за другим.

Правда ли, что эта история в основном про США, англоязычные новости и мелкие маргинальные сайты? И какое отношение все это имеет к нам?

•••

Сворачиваете с Тверской налево, из переулка ныряете во двор полуразрушенного старомосковского особняка, затянутого в строительную сетку, заходите в арку — а там наконец видите над входом в подвал вывеску бара «Редакция». Мало шансов оказаться здесь случайно. Кончается январь 2016 года, и в баре сегодня бесплатно угощают лапшой — в честь медиапроекта «Лапшеснималочная», он же сайт noodleremover.news. На логотипе проекта лапшу снимают вилками с ушей, а в анонсе мероприятия обещают рассказать, «кто и как вешает лапшу в российских и иностранных СМИ».

Создатель проекта Алексей Ковалев несколько лет учился журналистике в Лондоне, вернулся в Москву и здесь успел поработать в «РИА Новости» главредом сайта «ИноСМИ», где каждый день переводили свежие статьи крупных западных медиа про Россию. «Лапшеснималочную» Ковалев запустил в сентябре 2015 года — прежде всего для борьбы с теми фальшивыми новостями, которые добрались до эфира государственных телеканалов. Уже в январе 2016-го один из текстов проекта за одну ночь прочло больше ста тысяч человек: даже по меркам крупных СМИ русскоязычного интернета с пяти–десятилетней историей это невероятно много.

Каждая история на сайте — небольшое расследование про какой-нибудь телесюжет. Вот, например, телеканал RT (в прошлом Russia Today) цитирует американского «специалиста по борьбе с терроризмом», который вещает про страхи Пентагона перед военной мощью России. Ковалеву было не лень выяснить, что эксперт еще совсем недавно вовсе не боролся с терроризмом, а отбывал в США трехлетний тюремный срок: он выдавал себя за отставного сотрудника спецслужб, пытаясь получить оборонный контракт и служебную квартиру, и был пойман на вранье (16).

А вот «РЕН ТВ» публикует у себя на сайте текст под заголовком «На Западе обсуждают гениальный ход Путина, грозящий обрушить экономику ЕС и США» — у него полмиллиона просмотров (17).

Ковалев терпеливо объясняет: «Как вы уже наверняка догадались, если регулярно читаете “Лапшеснималочную”, если в заголовке российского издания написано что-то в духе “западные СМИ”, то, скорее всего, это никакие не СМИ (а бывает, что и не западные вовсе). Так и тут» (18). В этот раз за СМИ выдают франкоязычную блог-платформу AgoraVox, нечто вроде «Живого журнала», где опубликоваться может кто угодно. Первоисточником этой конкретной записи про «гениальный ход Путина» оказывается человек, который представляется так: «Сестра Мария Тереза — 73-я Сорча Фаал Ордена Сорча Фаал, избранная Матерью-Настоятельницей 3 февраля 2007 года».

•••

Ковалеву чуть больше тридцати, у него непропорционально большая коротко стриженная голова, он в хипстерском кардигане и темной рубашке в крупный горошек. Послушать его в небольшой зал «Редакции» набилось человек пятьдесят, и большинству приходится все полтора часа стоять на ногах.

«Кто из вас журналист — поднимите руки», — просит Ковалев у аудитории, и становится ясно: журналистов здесь минимум половина. Ковалев радуется, что хотя бы не все: «Есть такое английское выражение — читать проповедь церковному хору». Пропаганду и подтасовки государственных СМИ обсуждают давно, активно и даже яростно — но только внутри журналистского цеха. И Ковалев пытается сделать так, чтобы эта информация добралась наконец-то до широкой публики.

Проект «ИноСМИ.ру», когда Ковалев его возглавлял, и сам был чем-то вроде «проповедей церковному хору» — скорее «би-ту-би», business-to-business, чем «би-ту-си», business-to-consumer. Сайт был инструментом для журналистов, политиков и аналитиков, которым критически важно знать, какой представляется страна снаружи. Та аудитория состояла из придирчивых скептиков — требовала авторитетных первоисточников и выверенного перевода. Поэтому для Ковалева по возвращении стало сюрпризом, что государственные телеканалы вдруг стали активно ссылаться на мнение неизвестных ему «западных СМИ», обращаясь к менее критичным телезрителям. «Западные СМИ рассказали о превосходстве Путина над лидерами крупных держав». «Западные СМИ прочат Владимиру Путину величайший дипломатический триумф». И каждый раз при ближайшем рассмотрении оказывалось, что СМИ, где «прочат» и «обсуждают гениальный ход» — это или газета каких-нибудь коммунистов штата Висконсин, или блог сумасшедшего профессора. Но в телевизоре об этой детали обычно умалчивают.

Картина вроде бы простая и даже черно-белая: телевизор врет — а интернет его разоблачает. Но не все так просто. Ковалев с удивлением обнаружил, что неправду по ТВ подпитывает невидимая пищевая цепочка в интернете: ее звенья — и коммерческие сайты фальшивых новостей, которые притворяются СМИ ради заработка, как World News Daily Report в США, и успешные развлекательные сайты с многомиллионной аудиторией, и даже интернет-страницы самых настоящих региональных газет. Для чего это нужно? Прежде всего, для многоэтапной отмывки новостей перед тем, как они попадут в телевизор.

После того, как в 2014 году над Донбассом был сбит «Боинг» авиакомпании Malaysia Airlines с 298 пассажирами на борту (по данным международного расследования, он был сбит из российского зенитного ракетного комплекса «Бук» повстанцами), российские государственные СМИ цитировали Twitter загадочного испанского авиадиспетчера, который якобы работал в аэропорту и видел идущие на перехват «Боинга» украинские истребители. Появление такой записи в Twitter — факт, и в этом смысле новости не лгали. Человек, которому аккаунт принадлежал, был найден и даже дал интервью телеканалу RT. Другое дело, что ни в одном реестре диспетчер с таким именем не значился, а герой интервью, как выяснилось позже, действительно оказался испанцем — но только никак не связанным с авиацией и судимым за мошенничество (19). Но формально неправда родилась в интернете, а ТВ честно преподнесло ее как мнение конкретного человека.

•••

Любимая история Ковалева — судьба новости под заголовком «96% читателей американской газеты за Путина» (20). Сюжет вышел в эфире программы «Вести» на федеральном канале «Россия-24»: тележурналисты цитировали не какое-нибудь выдуманное СМИ, а главное в стране информагентство «РИА Новости». Там, в свою очередь, ссылаются на опрос газеты New York Daily News. Такая газета на самом деле есть — пусть даже это и не издание уровня New York Times, а таблоид с историями про скандалы в жизни звезд. Наконец, на сайте газеты во время сессии Генеральной Ассамблеи ООН действительно опубликовали ссылку на опрос «Кто был убедительней, Путин или Обама?» — и по результатам голосования 34 000 человек Путин действительно обошел президента США с результатом в 96% против 4%.

Все сходится, где же здесь неправда? У себя на сайте Ковалев размещает скриншоты комментариев, которые «96% американцев» оставляли прямо под страницей с голосованием: «Вовка, жми. Копченый сливается» и «Амеров на их же земле нагнули», — на чистом русском пишут они. Ковалев объясняет: «Ссылку на это голосование — которую читатели New York Daily News проигнорировали, потому что на Путина им наплевать — запостили на Yaplakal.com, и там 34 000 голосов накрутили за час». «ЯПлакалъ» — российский развлекательный ресурс, где обсуждают «приколы»: смешные видео с ДТП, фото удивленных собак и российских танков, а также «истории из жизни», где менеджер младшего звена меткой фразой ставит на место начальство. «Нас 6 миллионов», — гордо сообщает Yaplakal.com своей аудитории про ее численность, так что 34 000 проголосовавших — что-то около 0,5% от этого числа.

«Многие ресурсы — и тот же самый Yaplakal — стали оплотом патриотической общественности. Такие развлекательные сайты собирают сотни тысяч уников [3] в день, репостя смешные картинки из Сети. На них, конечно, сразу обратили внимание — и начали последовательно захватывать», — объясняет Ковалев тактику людей, которые увидели во вроде бы аполитичном развлекательном секторе интернета отличную площадку для пропаганды. И поначалу даже переусердствовали: «В какой-то момент там не было никого, кроме ботов, которые говорили сами с собой и получали какую-то копейку за каждый пост. Все условно нормальные люди ушли, потому что там делать нечего среди бесконечного потока алармистских и триумфалистских постов».

В день написания этого текста самая свежая запись на сайте называлась по-военному просто «Начни тотальный конфликт» — хотя это всего-навсего реклама компьютерной игры: на анимированной заставке российский танк-амфибия преодолевает пески пустыни и рассекает волны моря. Следующий пост, под заголовком «СССР 1985 год» — про славное советское прошлое: идиллические цветные летние фото трамваев и майских флагов с солнечных улиц без рекламы. Ниже — опять война: «Вежливые люди в Сирии, часть 2» и «Таран: последний довод или смелый маневр».

•••

Когда телевизионщики выхватывают из потока только те новости, которые решают их задачи, или когда захватывают крупный развлекательный сайт — все понятно. Может быть, если вы не смотрите телевизор и не заглядываете на «ЯПлакалъ», все это не про вас?

Другими словами: можно ли спать спокойно, пока пропагандисты не выкупили 100% акций компании Facebook? В конце концов, интернет большой, и у фальшивых новостей тысячи источников, которые распространяют их не сговариваясь. Допустим, неправда действительно проникает к вам в ленту — и, допустим, вы не всегда ее распознаете. (Опрос, который устроил британский телеканал Channel 4, показал (21): только 4% британцев безошибочно отличают фальшивые новости от настоящих. Остальные 96% где-нибудь да ошибаются.) Но если вас со всех сторон бомбардируют маленькими порциями информации за и против, то можно рассчитывать, что суммарное воздействие на вашу картину мира будет нулевым.

Или все-таки мы беззащитны перед пропагандой и в соцсетях, где вроде бы сами выбираем, что читать, а что нет? Об этом — глава 2.

Краткое содержание главы 1

1. Хотя плохая журналистика существует давно, фальшивые новости — свежее изобретение. Реальной силой их сделали соцсети.
2. Вероятность репоста у неправды на 70% выше, и она распространяется в шесть раз быстрее правды.
3. Кто главные распространители? Не «тысячники» и «десятитысячники», а непопулярные пользователи. Потому что им это нужнее.
4. Сочинять фейковые новости прежде всего выгодно — причем деньги платят не политтехнологи. Это просто самый дешевый контент и источник кликов для сайта-однодневки, где крутят коммерческую рекламу.
5. Крупные СМИ редко производят фальшивые новости сами, но часто встраивают их в цепочку по многоэтапному отмыву информации.
6. 96% участников опроса, который устраивал крупный британский телеканал Channel 4, не справились с задачей отличить фейковую новость от настоящей.