О поляризационном эффекте соцсетей и алгоритмах, которые радикализируют пользователей и манипулируют ими, в последнюю неделю написали многие медиаресурсы, включая The New York Times и NPR. Поводом стала книга обозревателя NYT Макса Фишера «Машина хаоса».
Описывая работу алгоритмов соцсетей, Фишер не затрагивает технические аспекты и сосредотачивается на гуманитарных: на изменении сознания общества при помощи контента. Материал автор собирал, когда работал репортёром в горячих точках, в частности, в Мьянме и Шри-Ланке, и наблюдал, как при помощи вбросов в соцсетях формировалось общественное мнение. Кроме того, сделать из этого материала выводы помогли интервью с учёными-психологами.
В «Машине хаоса» Фишер напрямую обвиняет компании, работающие в социальных сетях, в намеренном манипулировании своими пользователями. По его убеждению, делается это для того, чтобы управлять метриками, показателями вовлечённости, а на практике создаёт у людей зависимость от негативного контента.
Наслаждение моральным негодованием — одно из ключевых чувств, которое, по мнению Фишера, эксплуатируется алгоритмами, разработанными Google и Meta*, обнаружившими, что могут монетизировать это негодование. Разобщённость стимулирует взаимодействие, что, в свою очередь, увеличивает доходы от рекламы.
Если совсем упрощать, пресловутый «стадный инстинкт», приверженность сообществам — один из механизмов выживания человека. И любая информация, которая говорит об угрозе сообществу, заставляет людей негодовать и ещё больше объединяться.
Как объясняет Фишер, когда мы заходим в соцсети, мы уверены, что видим вполне нейтральное отражение сообщества. Но алгоритмы соцсетей упорядочивают посты таким образом, что задевают определённые когнитивные триггеры, которые предназначены для запуска определённых эмоций. Больше всего привлекают внимание именно несущие негативную информацию сообщения, которые говорят об угрозе нашей групповой идентичности. И не тексты или видео, а моральное возмущение, вероятно, является самой мощной и действенной формой онлайн-контента. Потому что эти эмоции апеллируют к нашему инстинкту самосохранения.
Объясняя эффект поляризации, Фишер напоминает, что количество секунд в наших днях никогда не меняется. Однако количество контента в социальных сетях, конкурирующего за эти секунды, удваивается каждый год. Если наша соцсеть публикует 200 сообщений в день, мы успеваем прочитать около 100. Благодаря алгоритмам платформы, мы видим вызывающую наибольший резонанс половину своей ленты. В следующем году, когда 200 удвоится до 400, мы увидим только 100, и это снова будут самые обсуждаемые и вызывающие эмоции публикации. Со временем наши впечатления о сообществе становятся, как формулирует Фишер, «радикально более морализаторскими, преувеличенными и возмущёнными».
Понимая, что отключение рекомендательных алгоритмов соцсетей невозможно, Фишер считает, что даже отказ от счётчика плюсов и репостов снизит вероятность манипуляции при помощи контента.
