Исследователи USC обнаружили, что наибольшее влияние на распространение фейковых новостей оказывает структура социальных платформ, вознаграждающая пользователей за привычный обмен информацией.

Выводы группы, опубликованные в журнале Proceedings of the National Academy of Sciences, опровергают распространенное заблуждение о том, что дезинформация распространяется из-за отсутствия у пользователей навыков критического мышления, необходимых для различения правды и лжи, или из-за того, что их твердые политические убеждения искажают их суждения.

Только 15% наиболее активных распространителей новостей в исследовании были ответственны за распространение от 30% до 40% фейковых новостей.

Исследовательская группа из Школы бизнеса USC Marshall и Колледжа литературы, искусств и наук USC Dornsife задалась вопросом: что мотивирует этих пользователей? Ученые обнаружили, что соцсети – что-то в роде геймерства. Как и в любой игре, в соцсетях есть система вознаграждений, которая побуждает пользователей оставаться в них и продолжать публиковать посты и делиться. Пользователи, которые часто публикуют и делятся, особенно сенсационной, привлекающей внимание информацией, скорее всего, привлекут внимание.

«Благодаря системам обучения в соцсетях, основанным на вознаграждении, у пользователей формируется привычка делиться информацией, которая получает признание других», пишут исследователи. «Как только формируются привычки, обмен информацией автоматически активируется сигналами на платформе, при этом пользователи не учитывают критические результаты реакции, такие как распространение дезинформации».

Таким образом, публикация, совместное использование и взаимодействие с другими в соцсетях может стать привычкой.

«Наши результаты показывают, что дезинформация не распространяется из-за дефицита пользователей. На самом деле это функция самой структуры сайтов соцсетей», сказала эксперт по привычкам, почетный профессор психологии и бизнеса USC Венди Вуд.

«Привычки пользователей соцсетей являются большей движущей силой распространения дезинформации, чем отдельные атрибуты. Из предыдущих исследований мы знаем, что некоторые люди не воспринимают информацию критически, а другие формируют мнение, основанное на политических предубеждениях, что также влияет на их способность распознавать ложные сведения в интернете», сказала Гизем Джейлан, руководившая исследованием во время работы над докторской диссертацией в USC Marshall, ныне – научный сотрудник Йельской школы менеджмента. «Однако мы показываем, что структура вознаграждения платформ соцсетей играет большую роль, когда речь идет о распространении дезинформации».

Используя новый подход, доктор Джейлан и ее соавторы стремились понять, как структура вознаграждения на сайтах соцсетей побуждает пользователей вырабатывать привычки публиковать дезинформацию.

В целом в исследовании приняли участие 2476 активных пользователей 18-89 лет, которые добровольно вызвались в ответ на онлайн-рекламу. Им заплатили за прохождение опроса «принятие решений» продолжительностью около семи минут.

Удивительно, но исследователи обнаружили, что привычки пользователей в соцсетях удвоили, а в некоторых случаях утроили количество ложных новостей, которыми они делились. Их привычки больше повлияли на распространение фейковых новостей, чем другие факторы, включая политические убеждения и отсутствие критического мышления.

Частые и постоянные пользователи пересылали в шесть раз больше фейковых новостей, чем случайные или новые.

«Такой тип поведения в прошлом вознаграждался алгоритмами, которые отдавали приоритет вовлеченности при выборе сообщений, которые пользователи увидят в своей ленте новостей, а также структурой и дизайном самих сайтов», сказал второй автор Ян А. Андерсон, специалист по поведению, докторант USC Dornsife. «Понимание динамики распространения дезинформации важно, учитывая ее политические, медицинские и социальные последствия».

В первом эксперименте исследователи обнаружили, что обычные пользователи соцсетей делятся как правдивыми, так и фейковыми новостями.

В другом эксперименте исследователи обнаружили, что привычный обмен дезинформацией является частью более широкой модели нечувствительности к передаваемой информации. На самом деле, обычные пользователи делились политически противоречивыми новостями, которые бросали вызов их политическим убеждениям, так же, как и согласующимися новостями, которые они поддерживали.

Наконец, команда проверила, можно ли разработать структуры вознаграждения в соцсетях, чтобы способствовать обмену правдивой информацией, а не ложной. Они показали, что поощрение точности, а не популярности (как в настоящее время на сайтах соцсетей) удвоило количество точных новостей, которыми пользователи делятся на социальных платформах.

Выводы исследования:

Привычный обмен дезинформацией не является неизбежным. Пользователей можно стимулировать к формированию привычек обмена, которые сделают их более чувствительными к обмену правдивым контентом. Эффективное сокращение дезинформации потребует реструктуризации онлайн-среды, которая поощряет и поддерживает ее распространение.

Эти результаты показывают, что платформы соцсетей могут предпринять более активные шаги, чем модерировать публикуемую информацию, и вместо этого проводить структурные изменения в своей структуре вознаграждения, чтобы ограничить распространение дезинформации.