понедельник, 27 февраля 2023 г.

Цензоры используют ИИ для таргетирования подкастов

 Илоном Маском   Twitter, возможно, завершила первую главу в информационных войнах, где свобода слова выиграла небольшую, но решающую битву. Однако полномасштабная борьба в цифровом ландшафте будет только усиливаться, как показывает новый отчет Института Брукингса, ключевого игрока в промышленном комплексе цензуры. 

Во-первых, обзор.

Множество внутренних документов, известных как  файлы Twitter , показывают, что цензура в социальных сетях в последние годы была гораздо шире и систематичнее, чем даже мы, критики, подозревали. Хуже того, файлы выявили тесное сотрудничество — даже оперативную интеграцию — между Twitter и десятками правительственных учреждений, включая ФБР, Министерство внутренней безопасности, Министерство обороны, ЦРУ, Агентство безопасности инфраструктуры кибербезопасности (CISA), Министерство здравоохранения и социальных служб, CDC, и, конечно же, Белый дом. 

Правительственные агентства также привлекли множество академических и некоммерческих организаций для  выполнения своей грязной работы . Например, Глобальный центр взаимодействия, расположенный в Государственном департаменте, изначально был создан для борьбы с международным терроризмом, но теперь он был перепрофилирован для борьбы с американцами.

Государственный департамент США также  финансировал  британскую организацию под названием «  Глобальный индекс дезинформации» , которая заносит в черный список отдельных лиц и группы американцев и убеждает рекламодателей и потенциальных поставщиков избегать их. Национальная безопасность создала Партнерство за честность выборов (EIP), в которое вошли Стэнфордская интернет-обсерватория, Центр информированной общественности Вашингтонского университета и DFRLab Атлантического совета, которые пометили для социального подавления десятки миллионов сообщений, размещенных американскими гражданами.

В дело вступили даже бывшие высокопоставленные правительственные чиновники США, обратившиеся напрямую (и успешно) к Твиттеру с просьбой запретить озорников, рассказывающих правду. 

В связи с полным падением доверия к устаревшим СМИ за последние 15 лет люди во всем мире обратились к социальным сетям за новостями и дискуссиями. Когда социальные сети начали подвергать цензуре самые острые темы, такие как Covid-19, люди все чаще обращались к подкастам. Врачи и аналитики, которых замалчивали в Твиттере, Фейсбуке и Ютубе и которых, конечно же, не было нигде в устаревших СМИ, предоставили через подкасты большую часть самого лучшего анализа по широкому спектру науки и политики в отношении пандемии. 

Что подводит нас к  новому отчету  Brookings, в котором делается вывод о том, что одним из самых плодовитых источников «дезинформации» теперь, как вы уже догадались, являются  подкасты . И далее, что недостаточное регулирование подкастов представляет серьезную опасность.

В «Звуковой расплате: как ведущие политические подкастеры распространяют необоснованные и ложные заявления» Валери Виртшафтер пишет:

В значительной степени из-за того, что среда воспринимается как «говори, что хочешь», подкастинг предлагает критический путь, по которому распространяются необоснованные и ложные заявления. Поскольку термины используются в этом отчете, термины «ложные утверждения», «вводящие в заблуждение утверждения», «необоснованные заявления» или любая их комбинация являются оценками исследовательской группы основных утверждений и утверждений, основанных на методологии, изложенной ниже в раздел дизайна исследования и приложения. Данные свидетельствуют о том, что такие утверждения сыграли жизненно важную роль в формировании общественного мнения и политического поведения. Несмотря на эти риски, экосистеме подкастинга и ее роли в политических дебатах уделялось мало внимания по целому ряду причин, включая технические трудности анализа многочасового аудиоконтента и неправильные представления о среде.

Чтобы проанализировать миллионы часов аудиоконтента, Brookings использовала  обработку естественного языка  для поиска ключевых слов и фраз. Затем он полагался на самозваные сайты проверки фактов Politifact и Snopes —  пауза для бурного смеха… выдох  — чтобы определить истинность или ложность этих утверждений. Затем он развернул  функцию «косинусного сходства»  для обнаружения подобных ложных утверждений в других подкастах. 

Результат: «консервативные подкастеры в 11 раз чаще, чем либеральные подкастеры, делились заявлениями, проверенными фактами как ложными или необоснованными».

Одно из шоу, которое Brookings ошибочно назвало «консервативным», — это научный подкаст Dark Horse, который ведут Брет Вайнштейн и Хизер Хейинг. В течение последних трех лет они тщательно исследовали сложный мир Covid, предоставляя блестящие идеи и скромно исправляя свои нечастые ошибки. Однако Brookings установила, что 13,8% их шоу содержали ложную информацию. 

Что выдала бы методология Brookings, использующая другой набор средств проверки фактов, если бы она была применена к CNN, Washington Post , FDA, CDC или сотням блогов, подкастов, телевизионных врачей и «научных коммуникаторов», которые получили почти все неправильный? 

Говоря о подкасте журналиста Мэтта Тайбби, писатель Уолтер Кирн  подверг критике новую схему проверки фактов ИИ . Он делает вид, что превращает цензуру в «математическую, а не конституционную заботу» — или, как он это называет, «науку, науку, научную чушь». 

Последовательная цепочка самонадеянного всеведения, предвзятости отбора и ложной точности, используемая для получения этих якобы количественных выводов об огромном, разнообразном, иногда шумном и часто поучительном мире онлайн-аудио, нелепа. 

И все же это смертельно серьезно. 

Крах поддержки свободы слова среди западных псевдоэлит лежит в основе множества других проблем, от медицины до войны. Дезинформация — это естественное состояние мира. Открытая наука и энергичные дебаты — это инструменты, которые мы используем, чтобы со временем ошибаться. От них зависит индивидуальное и коллективное принятие решений.

Репост из подстека автора

Автор

Комментариев нет:

Отправить комментарий

США отправляют B-52 в Европу

  Соединенные Штаты перебрасывают в Европу дополнительные стратегические бомбардировщики B-52. В ВВС заявляют, что это делается для «ротации...