Эта история первоначально появилась на vigilantfox.com и был переиздан с разрешения.
Джо Роган встретился с профессором Гарварда и экспертом по контролю над разумом Ребеккой Лемов, и вскоре разговор перешел на одну из его любимых тем: вмешательство правительства в нашу цифровую жизнь.
Роган начал разговор словами: “Существует так много различных видов контроля над разумомл.”
“Одна из вещей, о которой мы много говорили в этом подкасте, заключается в том, что огромный процент того, что вы видите в социальных сетях с точки зрения взаимодействия и дебатов, это не настоящий. «Это не органично», — объяснил он.
“Он управляется государством и финансируется государством, и будь то иностранные правительства, наше правительство или даже корпорации, вы получаете неорганический дискурс, который призван сформировать повествование и который является формой контроля над разумом”, добавил он.
Лемов уловил этот момент и пошел дальше. Она объяснила, что даже когда люди знают, что что-то фальшивое, наш мозг все равно реагирует так, как будто это реально.
“Да. «Я имею в виду, я думаю, что даже на базовом уровне люди знают, и исследования показали, что мы реагируем так, как будто это органично и реально», — сказала она.
“Даже если кому-то нравится ваш пост, ответ такой же, как и при личном общении”, добавила она.
Она предупредила, что за ниточки дергают не только правительства. Сами платформы созданы для того, чтобы влиять на то, как мы себя чувствуем.
“Я думаю, что в основе лежит своего рода способ, которым на эмоциональном уровне это не просто манипуляция идеями,” сказала она, “но есть своего рода эмоциональная инженерия, которая встроена в платформы и даже не требует, знаете ли, поначалу участия правительства.”
Лемов приоткрыл завесу тайны над DARPA, противоречивым правительственным агентством оборонных исследований, и его скрытой ролью в формировании цифрового мира, в котором мы сейчас живем.
DARPA, she revealed, wasn’t just involved in building the internet—it may have helped lay the foundation for emotional manipulation on a global scale.
“DARPA was involved in the development of the internet and of things like pattern recognition,” she said. “The government has funded many, many studies.”
But what concerned her most wasn’t just the technology—it was how that technology is being used.
“What I got interested in, in social media and how I connect it with the episodes of brainwashing—it creates states of emotional contagion that aren’t really about convincing people of a different way to think,” she explained.
Она продолжила: “Но больше о том, как вы относитесь к тому, что думаете.”
По ее словам, этот эмоциональный сдвиг отражает точную тактику, используемую в культах.
“Дело не в том, что это изменило мои мысли,” - сказала она. “Вот что я чувствовал по поводу этих мыслей.”
Именно тогда Лемов раскрыл одно из самых мрачных откровений в истории крупных технологических компаний —секретный эксперимент Facebook, который незаметно манипулировал эмоциями почти 700 000 пользователей.
И пользователи понятия не имели, что это происходит.
“Я читал о известном эксперименте в Facebook, который состоялся в 2012 году и был опубликован в 2014 году, где они объявили о достижении массового эмоционального заражения в больших масштабах”, — рассказал Лемов Рогану.
Она объяснила, как Facebook изменял ленты новостей людей без их ведома и согласия.
“Всякий раз, когда вы заходите на платформу, вы соглашаетесь на тестирование или AB-тестирование. Таким образом, этот эксперимент подверг группу большему воздействию —их лента новостей была изменена в эмоциональном негативном направлении, что измерялось с помощью программного обеспечения для подсчета слов”, сказала она.
Результаты, добавила она, вызывают глубокую тревогу.
“И они обнаружили, что группа, которая подверглась негативному воздействию, также отреагировала более негативно, судя по их постам, лайкам и ответам.”
“Группа, которая подверглась воздействию более позитивной новостной ленты путем изменения алгоритма, также имела измеримо статистически значимый эффект более позитивной эмоциональной реакции —и контрольная группа не изменилась в результате этого”
Другими словами, Facebook не просто изучал эмоции —он активно их формировал.
И никого никогда не предупреждали.
Полный масштаб эксперимента стал известен лишь два года спустя, когда исследователи наконец признали то, что они сделали.
Специалисты по обработке данных Facebook незаметно манипулировали лентами 689 003 пользователей —удаляя либо все положительные посты, либо все отрицательные, чтобы наблюдать за эмоциональными последствиями.
Если в январе 2012 года ваша лента новостей казалась необычайно мрачной или подозрительно оптимистичной, есть вероятность, что вы были ее частью—и никогда об этом не знали.
Команда, стоящая за исследованием, во главе с специалистом по обработке данных Адамом Крамером, в конечном итоге опубликовала свои выводы в научном журнале и изложила результаты в холодных клинических подробностях:
“Когда количество положительных выражений уменьшалось, люди создавали меньше положительных сообщений и больше отрицательных сообщений; когда количество отрицательных выражений уменьшалось, наблюдалась противоположная картина”, говорится в статье.
Это было неоспоримым доказательством: эмоции заразительны—, и социальные сети можно использовать в качестве оружия для масштабного манипулирования настроением.
Эксперимент длился всего одну неделю, но у тех, кто попал в сеть алгоритма, эмоциональные волновые эффекты могли сохраняться гораздо дольше.
Ситуация приняла тревожный оборот после того, как Лемов объяснил, что, когда эксперимент был наконец обнародован, негативная реакция была немедленной —а в некоторых случаях и душераздирающей.
Она вспомнила один особенно леденящий душу ответ пользователя, который обратился напрямую к исследовательской группе.
“А на странице исследовательской группы, проводившей эксперимент, в Facebook по крайней мере один пользователь написал: ‘Могу ли я когда-нибудь узнать, участвовал ли я в этом эксперименте? Потому что в то время я был в отделении неотложной помощи, знаете ли угрожая покончить жизнь самоубийством, и я хочу знать, была ли изменена моя лента и, возможно, это подтолкнул меня к этому состоянию.”
Но отследить его не удалось.
“Конечно, они никогда не смогут этого узнать, и это невозможно проследить в обратном направлении. И у других людей была похожая реакция”, - сказал Лемов.
Разоблачения были достаточно серьезными, чтобы спровоцировать расследование со стороны британского правительства, которое рассматривало возможность введения санкций из-за международного масштаба эксперимента.
“И британское правительство даже провело расследование относительно того, следует ли вводить санкции, поскольку это затрагивает пользователей по всему миру”, добавила она.
Но в итоге никто не был привлечен к ответственности.
“В конечном счете, похоже, никаких санкций не было ни у кого, кто был с этим связан”, - сказала она.
Никакого наказания. Никаких предупреждений. Никакой прозрачности.
И вопрос все еще висит в воздухе: сколько еще экспериментов сейчас проводится, скрываясь на виду?
Найдите больше подобных историй на сайте VigilantFox.com
Комментариев нет:
Отправить комментарий