Машина судного дня не должна была существовать. Она была лишь мысленным экспериментом, условием которого было следующее: представьте себе устройство, построенное исключительно с целью уничтожить все человечество. Оно закопано глубоко под землей, но подсоединено к компьютеру, который, в свою очередь, поддерживает связь с сенсорами в больших и малых городах по всей территории США.
Сенсоры разработаны так, чтобы “чувствовать” признаки приближения апокалипсиса. Но их цель не остановить конец света, а закончить его, – пишет The Atlantic.
Если уровни радиации укажут на ядерные взрывы, например, в трех городах США одновременно, сенсоры сообщат об этом Машине судного дня. А она запрограммирована взорвать несколько ядерных боеголовок в ответ.
В этот момент пути назад уже нет. Цепная реакция, которая лежит в основе ядерного взрыва, будет повторяться достаточное количество раз, пока не уничтожит все живое на Земле. Сначала будет чудовищно яркая вспышка света, потом мощный звук взрыва, а потом – продолжительный грохот. Существует слово, которое означает масштаб разрушения от работы Машины судного дня – мэгадэс (термин, который использовали аналитики RAND во времена Холодной войны, означает один миллион человеческих смертей от ядерного взрыва, – ред.).
Но мэгадэс – не единственное, что делает Машину судного дня такой страшной. Реальный ужас кроется в ее автономности, идее, что она запрограммирована выявить ряд условий в окружающей среде, а затем действовать без какого-либо человеческого вмешательства.
“Нет ни единого шанса для человеческого вмешательства, контроля или финального принятия решения”, – писал военный стратег Герман Хан в своей книге “Термоядерная война” в 1960-х годах, в которой и была изложена гипотеза Машины судного дня. Концепция заключалась в том, чтобы сделать ядерную войну такой, в которой невозможно победить. А значит она стала немыслимой.
Хан пришел к выводу, что автоматизация вымирания всего живого на Земле была бы аморальной. Даже бесконечно малый риск возникновения ошибки уже слишком велик, чтобы оправдать существование Машины судного дня.
“И даже если отказаться от компьютера и сделать Машину судного дня надежно подконтрольной людям, которые принимают решения, она все равно будет не достаточно контролируемой”, – писал Хан. Ни одна машина не должна быть столь могущественной, также как и ни один человек.
СССР на самом деле построил собственную версию Машины судного дня во времена Холодной войны. Ее называли “Мертвой рукой”. Но каким-то волшебным образом человечество нашло способ жить с бомбой. Теперь нужно научиться выжить с социальными сетями. Люди склонны жаловаться на Facebook так, как будто это что-то, что только недавно образовалось. Существует представление, что когда-то социальные сети были полезными или, по крайней мере, имели шанс стать чем-то хорошим, если бы люди вовремя потянули за несколько рычагов: немного модерации и проверки фактов здесь, немножко регуляции там. Возможно стоило бы подать в свое время антимонопольный иск.
Но такие взгляды слишком радужны и близоруки. Современные социальные сети, а Facebook в частности, были построены для поощрения вещей, которые делают их такими вредными. Это лежит в основе их архитектуры. В последние годы ошибки Facebook накопились, а его репутация значительно ухудшилась. Благодаря этому стало очевидно, что халатность – это лишь часть проблемы.
“Никто, даже Марк Цукерберг, не способен контролировать созданный им продукт. Facebook – это не СМИ. Это Машина судного дня”, – говорится в статье.
Социальная сеть делает именно то, для чего она была построена. Facebook не существует для того, чтобы искать правду и сообщать о ней. Он не преследует цель улучшить общественное здоровье или привлекать власть к ответственности. Он не представляет интересы своих пользователей, хотя этот феномен может время от времени возникать как побочное действие его существования. Изначальной целью компании было “дать людям силу делиться и делать мир более открытым и объединенным”. Вместо этого социальная сеть приняла концепцию “сообщества” и лишила ее какого-либо морального значения. Например, подъем движения сторонников теорий заговора QAnon – это один из логических результатов существования социальных сетей.
Потому что Facebook вместе с Google и YouTube идеально подходят для усиления и распространения дезинформации со скоростью света и среди глобальной аудитории. Facebook – агент государственной пропаганды, целенаправленной травли, вербовки террористов, эмоциональных манипуляций и геноцида. Это историческое для мира оружие, которое лежит не под землей, а в технопарке в стиле Диснейленда в Менло Парк, штат Калифорния.
Социальные сети-гиганты: Facebook и подчиненный ему Instagram, YouTube и в меньшей степени Twitter – добились успеха, будучи догматически нейтральными к моральным ценностям в своем преследовании того, что The Atlantic называет “мегамасштабом”. В какой-то момент на своем пути Facebook решил, что ему нужна не просто очень большая база пользователей, а гигантская и беспрецедентная в своих размерах. Это решение направило Facebook на путь, на котором он лишь своим существованием может навредить обществу.
Издание признает, что сравнение социальной сети с Машиной судного дня имеет свои очевидные ограничения. В конце концов, популярные сайты не могут превратить в руины целый город за мгновение, как ядерная бомба. К тому же, Машина судного дня должна была бы быть умышленно созданным устройством для организации конца света. А Facebook появился, потому что не очень трезвому студенту Гарвардского университета однажды вечером стало скучно. Но в обоих случаях на кон поставлен вопрос жизни и смерти.
Мегамасштаб почти такая же угроза для существования, как и мэгадэс. Ни одна машина не должна быть способной контролировать судьбу населения планеты. И Машина судного дня, и Facebook делают именно это.
Цикл ущерба от актуальной бизнес-модели социальной сети, которая заключается в сохранении масштабности любой ценой, не трудно заметить. Масштаб и привлечение ценны для Facebook, потому что они ценны для рекламодателей. Поэтому появились различные кнопки реакции, которые поощряют пользователей чаще и легче реагировать на все. А это, в свою очередь, побудило пользователей делиться идеями, которые спровоцируют более сильную реакцию. Каждый раз, когда вы нажимаете на “лайк”, алгоритм фиксирует это и четче определяет ваш портрет.
Гипер-таргетинг пользователей, который стал возможен благодаря огромным объемам их личных данных, создает идеальную среду для манипуляций. И этим пользуются рекламодатели, политические кампании, эмиссары дезинформации и, конечно же, сам Facebook. Последний держит под контролем, что вы увидите на сайте.
Facebook развернул целую армию из 15 тысяч модераторов, которым платят за отслеживание ужасных вещей: групповых изнасилований, убийств и других изображений насилия, которые быстро удаляют с платформы. Facebook настаивал, что он нейтральная с точки зрения ценностей платформа, которая не ограничивает пользователей в их выборе материалов для публикации. Но модерация – это тот рычаг, за который социальная сеть дергает снова и снова. Но не существует такого количества модераторов со знанием всех возможных языков, чтобы остановить тот библейских масштабов “потоп из дерьма”, которым Facebook заливает мир. Потому что в 10 случаях из 10 алгоритм быстрее и мощнее, чем любой человек. В мегамасштабе эту алгоритмически замкнутую персонализированную информационную среду чрезвычайно трудно модерировать так, чтобы это имело какое-то влияние. Поэтому она чрезвычайно опасна.
Эти угрозы не теоретические и они усиливаются магамасштабом, который делает платформу идеальным местом для проведения экспериментов над людьми. Собственно, Facebook провел эксперимент по “социальному заражению”, не сообщив своим пользователям, что они стали его участниками. Он действовал как цифровая колониальная сила, пытаясь стать фактическим и единственным опытом взаимодействия с интернетом для людей во всем мире. Facebook хвастался своей способностью влиять на результаты выборов. Незаконные военизированные группы использовали Facebook для организации. Правительства пользуются им, чтобы обманывать своих граждан и менять ход выборов. Военные исследовали пригодность Facebook для организации геноцида.
Даже после того, как разведка США признала Facebook главным полем битвы в информационной войне и инструментом иностранного вмешательства в выборы 2016 года социальная сеть не смогла остановить распространение экстремизма, языка ненависти, пропаганды, дезинформации и теорий заговора на своей платформе. Неонацисты остаются активными на Facebook, покупая рекламу даже после того, как их формально заблокировали. И лишь в октябре 2020 года компания объявила, что будет удалять все группы и страницы, посвященные теориям заговора QAnon, а также отрицанию Холокоста. Но несмотря на все это, Facebook регулярно рассылает своим пользователям электронные письма, рекомендуя самые новые страницы QAnon.
В первые дни после выборов президента США в 2020 году Цукерберг разрешил изменить алгоритм Facebook, чтобы страницы СМИ, которые распространяют правдивую информацию, получили приоритет. Так они чаще появлялись в ленте пользователей. А гиперполитизированные страницы, такие как Breitbart News и Occupy Democrats, должны были быть похоронены. Это, по мнению New York Times, доказывает, что Facebook может, если захочет, перекрыть кран потока дезинформации. А также это доказывает, что во власти социальной сети влиять на то, что миллиарды людей увидят.
Решение перекрыть кран дезинформации было очень нетипичным для Facebook. Это все равно что если бы Машина судного дня, обнаружив признаки угрозы в среде, решила не запускать свой алгоритм по автоматическому уничтожению мира. На этот раз человеческое вмешательство уменьшило ущерб. Единственная проблема в том, что сокращение контента, который в Facebook называют “плохим для мира”, также сократило активность людей на сайте. В своем эксперименте с человеческим вмешательством, Facebook откалибровал кран так, чтобы на сайте оставалось достаточное количество вредной информации, которая бы заставляла людей возвращаться за “добавкой”.
Мегамасштаб социальной сети наделяет Цукерберга беспрецедентным влиянием на глобальное население. Если он не самый влиятельный человек на планете, тогда он очень близок к этому.
“Это безумие, что кто-то имеет такую власть над высказыванием и молчанием, не говоря уже о том, чтобы быть владельцем алгоритмов, которые определяют фактически все в интернете. Вещи, которыми он руководит, настолько заразны и так сильно влияют на убеждения людей, что способны повлиять на то, как они поступят со своим ядерным оружием или долларами”, – сказал бывший чиновник Белого дома Джошуа Гелцер, который занимался вопросами борьбы с терроризмом.
Если хоть кто-то серьезно хочет сократить вред от социальных сетей для человечества, ему стоит подумать над тем, чтобы удалить свои страницы в Facebook, Instagram и Twitter, а также в любых других искаженных алгоритмами информационных средах, которые манипулируют людьми. Но стоит принять более широкий взгляд на то, как исправить испорченность социальных сетей. Для этого придется бросить вызов логике современных платформ. А в первую очередь нужно разобраться с самой концепцией мегамасштаба как способа сбора людей.
Если мегамасштаб – это то, что дает Facebook неслыханную власть и делает его опасным, тогда придется пойти на действия против сети в современном ее виде, чтобы изменить ее. Текущая логика соцсети говорит, что ее платформа бесплатна в обмен на данные пользователя. Что крупные сети обязательно должны быть централизованными и глобальными. И что модераторы определяют правила. Все это должно перестать быть правдой. Нужны люди, которые демонтируют эти утверждения, создав альтернативу. А также нужно достаточное количество людей, которые бы заботились об этих альтернативах, чтобы разбить чары венчурного капитала и внимания масс, которые подпитывают мегамасштаб, создавая фаталистичность сети в современном виде.
Интернет – это все еще добро для человечества, но вопреки социальным сетям, а не благодаря им. Нужно также найти способы исправить аспекты наших обществ и культуры, которым социальные сети нанесли большой ущерб. Для этого понадобятся интеллектуальная независимость, вежливые дебаты и такой же мятежный дух, который дал начало эпохе Просвещения много веков назад.
Leave a comment