Эта статья была первоначально опубликована Лэнсом Д. Джонсоном на сайте Natural News под заголовком: «Новая британская система слежки, „читающая мысли“ и предсказывающая поведение, превращает каждого гражданина в подозреваемого».
Британское правительство под предлогом обеспечения общественной безопасности и предотвращения преступлений незаметно создает самую передовую в западном мире систему слежки, предназначенную не только для того, чтобы вас видеть, но и для того, чтобы кормить вас ложью, провоцировать вас, интерпретировать ваши мысли и предсказывать ваши намерения.
Этот переход к «умозаключительному» наблюдению — технологии, которая, как утверждается, считывает уровень стресса, эмоции и намерения по лицу и телу, — знаменует собой опасный скачок от мониторинга действий к контролю над мыслями и чувствами, закладывая основу для мягкого тоталитарного государства, где невиновность больше не предполагается, а оценивается алгоритмически. Соединенное Королевство внедряет модель контроля, которая жертвует основополагающими принципами свободного общества на алтаре безопасности, создавая план мира, где ваше собственное лицо может вас выдать.
Основные моменты:
- Правительство Великобритании проводит консультации по правовой основе для «умозаключительных» систем наблюдения, которые, как утверждается, способны интерпретировать поведение, уровень стресса и эмоциональное состояние в режиме реального времени.
- Эксперты по вопросам конфиденциальности предупреждают, что эта технология построена на «шатких научных основах», поскольку распознавание эмоций крайне ненадежно и подвержено культурным предубеждениям.
- Существующая в Великобритании разветвленная сеть видеонаблюдения, оставшаяся со времен терактов Ирландской республиканской армии, идеально подходит для модернизации этой системы, нормализуя постоянный общественный мониторинг.
- Критики утверждают, что это создает постоянную инфраструктуру слежки, которую будущие правительства смогут использовать в качестве оружия, подрывая неприкосновенность частной жизни и подавляя свободу выражения мнений.
- Быстрое внедрение этой технологии в Великобритании контрастирует с более ограничительными подходами в ЕС и разрозненными правилами в США, что позиционирует Великобританию как мирового лидера в области наблюдения за общественным пространством.
Постепенное скатывание к тоталитарному контролю над мыслями.
Путь к этому моменту не был пройден в одночасье. Он начался с установки камер видеонаблюдения по всей Великобритании в 1990-х годах, что стало прямой реакцией на взрывы, совершенные Ирландской республиканской армией (ИРА). Этот кризис породил как физическую сеть, так и, что более коварно, институциональное и общественное привыкание к постоянному наблюдению. Как отмечает исследовательница в области искусственного интеллекта Элеонора «Нелл» Уотсон, в Лондоне сейчас на каждые 1000 человек приходится примерно 68 камер видеонаблюдения, что примерно в шесть раз больше, чем в Берлине. Эта существующая сеть камер приучила население воспринимать наблюдение как безобидный, постоянно присутствующий факт жизни, из-за чего внедрение более навязчивых технологий кажется всего лишь техническим усовершенствованием, а не фундаментальным изменением баланса сил, которое оно на самом деле представляет.
Сегодня британская полиция активно использует три вида распознавания лиц. Системы ретроспективного анализа просматривают записи с камер видеонаблюдения, дверных звонков и из социальных сетей после совершения преступления. Системы распознавания лиц в режиме реального времени сканируют толпы людей, сравнивая лица со списками лиц, находящихся под наблюдением. Системы, запускаемые оператором, позволяют сотрудникам полиции сделать снимок с помощью мобильного приложения, чтобы идентифицировать человека на месте. Власти хвастаются произведенными арестами, от серьезных насильственных преступлений до обеспечения соблюдения требований в отношении сексуальных преступников. Однако эти оперативные отчеты — дымовая завеса, оправдание гораздо более широких амбиций. Показатель ложноположительных результатов, хотя и кажется низким — примерно 1 на 1000, — это холодная статистика, которая мало утешает невиновного человека, ошибочно выбранного в качестве жертвы. Еще более ужасающим является доказанная предвзятость: эти системы чаще дают сбой в отношении людей с более темной кожей и женщин, автоматизируя и усиливая общественные предрассудки.
Теперь государство стремится пойти дальше. Предлагаемые технологии вывода информации уходят в область научной фантастики и психологического контроля. Они работают на основе дискредитированного предположения о том, что внутренние эмоциональные состояния порождают универсальные, надежные внешние сигналы. Знаковое научное метаанализ 2019 года разрушил этот миф, заключив, что хмурый взгляд не всегда означает гнев, а улыбка — счастье. Наши выражения лица многогранны, специфичны для каждой культуры и глубоко личны. Деметриус Флудас, бывший геополитический советник, справедливо называет это вторжение «подобным чтению мыслей алгоритмом». Представьте себе ужас, когда вас помечают как потенциальную угрозу, потому что алгоритм неправильно интерпретирует вашу скорбь по поводу личной утраты как «подозрительное поведение», или потому что ваш нейроотличный способ выражения эмоций выходит за рамки его узкой программы. Элизабет Мелтон из правозащитной группы Banish Big Brother рисует пугающую картину: вы идете по аэропорту после личной трагедии, и ваша естественная тревога воспринимается бесчувственной машиной как опасная.
От слежки к контролю над обществом
Речь идёт не просто о поимке преступников. Речь идёт о перестройке самого общества. Как предупреждает Уотсон, Великобритания создаёт «инфраструктуру слежки с демократическими характеристиками». Сама инфраструктура, будучи внедренной, определяет будущие политические возможности. Система, созданная для всестороннего мониторинга поведения, не теряет своих возможностей при приходе к власти новой партии; она просто ждёт новых указаний. Это создаёт постоянную архитектуру контроля, готовую быть использованной против любой группы, которую власть имущие считают нежелательной. Мы уже видели криминализацию инакомыслия в западных странах, когда люди подвергаются аресту за критику государственной политики. Умозаключительная слежка предоставляет идеальный инструмент для такого преследования, позволяя государству выявлять и преследовать не только акты протеста, но и сам стресс или эмоции, связанные с инакомыслием, ещё до принятия каких-либо мер. Она превращает политические взгляды в индикаторы, предшествующие преступлению, делая граждан «виновными за неправильные мысли».
Международный контекст показывает радикальный путь Великобритании. Закон Европейского союза об искусственном интеллекте накладывает строгие ограничения на использование биометрического и поведенческого ИИ, требуя классификации по высокому риску и строгих проверок на соразмерность. Франция в целом запрещает публичное распознавание лиц в режиме реального времени. Итальянский орган по защите данных заблокировал его внедрение. Тем не менее, после Brexit Великобритания, стремясь стать мировым лидером в области технологий безопасности и столкнувшись с перегруженностью полиции, движется вперед, используя меньше проверок. Соединенные Штаты, с их защитой Четвертой поправки, действуют с помощью разрозненных законов штатов, но такие эксперты, как американский ученый Нора Демляйтнер, признают, что Великобритания «продвинулась дальше в реализации более широкой модели наблюдения», модели, которая неизбежно пересечет Атлантику благодаря сотрудничеству полиции и лоббированию со стороны технологической индустрии.
Человеческие издержки машинного взгляда
Главная цена измеряется человеческой свободой. Исторически сложилось так, что люди, живущие при авторитарных режимах, учатся скрывать свои чувства, регулировать каждый свой жест и слово, чтобы избежать внимания государства. Эта косвенная слежка стремится автоматизировать этот взгляд, создавая общество, где люди подвергают самоцензуре не только речь, но и свои врожденные эмоциональные реакции. Она подавляет свободу быть человеком на публике — скорбеть, тревожиться, испытывать гнев из-за несправедливости. Она создает популяцию отслеживаемых, поддающихся отслеживанию людей, которые должны постоянно учитывать, как их естественное поведение может быть неверно истолковано алгоритмом, служащим государству.
Консультации правительства по правовой базе — это лишь видимость процесса, скрывающая заранее спланированное движение к контролю. Реальные мотивы мало связаны с общественной безопасностью и полностью — с соблюдением гражданами закона. От алгоритма, угадывающего ваше эмоциональное состояние, до алгоритма, предсказывающего вашу «потенциальную» склонность к преступности или инакомыслию, — всего один шаг; от идентификации подозреваемого до идентификации человека, мыслящего неправильно. Великобритания не просто модернизирует свои камеры; она устанавливает правительственного привратника в общественном пространстве, внушая своим гражданам, что быть полноценным человеком — значит быть подозрительным.
Комментариев нет:
Отправить комментарий