Гостевой пост Джона У. Уайтхеда
Глубинное государство не исчезнет. Его просто заменят.
На смену ему придет не харизматичный автократ и даже не теневая бюрократия, а искусственный интеллект (ИИ) — бесчувственный, безответственный и бессмертный.
Поскольку мы стоим на пороге нового технологического уклада, механизмы власти постепенно переходят в руки алгоритмов.
Под руководством Дональда Трампа этот сдвиг закрепился как минимум на поколение.
Последняя законодательная инициатива Трампа — 10-летний запрет на регулирование ИИ,заложенный в « Один большой красивый законопроект » — лишает государственные и местные органы власти возможности устанавливать какие-либо ограничения в отношении искусственного интеллекта до 2035 года.
Несмотря на двухпартийные предупреждения от 40 генеральных прокуроров штатов , законопроект был принят Палатой представителей и ожидает одобрения Сената. Это не что иное, как федеральный зеленый свет для работы ИИ без надзора во всех сферах жизни, от правоохранительных органов и занятости до здравоохранения, образования и цифрового наблюдения.
Это не инновация.
Это институционализированная автоматизация тирании.
Вот как в условиях алгоритмического управления код быстро заменяет конституционное право в качестве механизма контроля.
Мы стремительно переходим от общества, где правят законы и надлежащие правовые процедуры, к обществу, где правит программное обеспечение.
Алгоритмическое управление подразумевает использование машинного обучения и автоматизированных систем принятия решений для выполнения функций, которые когда-то были предназначены для людей: охрана порядка, определение права на социальное обеспечение, проверка иммиграционных прав, подбор кадров, кредитный скоринг и оценка судебных рисков.
В этом режиме закон больше не интерпретируется. Он исполняется. Автоматически. Механически. Без возможности апелляции, усмотрения или человеческого милосердия.
Эти системы ИИ полагаются на исторические данные — данные, пронизанные системной предвзятостью и человеческими ошибками — для прогнозирования и принятия решений. Предиктивные алгоритмы полицейской деятельности сообщают офицерам, где патрулировать и кого останавливать. Технология распознавания лиц помечает «подозреваемых» на основе фотографий, взятых из социальных сетей. Программное обеспечение для оценки рисков присваивает гражданам баллы угроз без объяснений, без надзора и без возмещения ущерба.
Эти алгоритмы работают в черных ящиках, защищенных коммерческими тайнами и исключениями из правил национальной безопасности. Общественность не может их проверить. Суды не могут их оспорить. Граждане не могут их избежать.
Результат? Популяция, отсортированная, оцененная и наблюдаемая с помощью машин.
Это практический результат программы дерегулирования администрации Трампа: системам искусственного интеллекта предоставлена полная свобода действий по наблюдению, категоризации и криминализации населения без какой-либо прозрачности или возможности обжалования.
И это не теоретические опасности — они уже происходят.
Примеры неконтролируемого искусственного интеллекта и предиктивной полицейской деятельности показывают, что предпреступность уже существует.
Как только вас оценивает и отмечает машина, результат может изменить жизнь — как это было с Майклом Уильямсом , 65-летним мужчиной, который провел почти год в тюрьме за преступление, которого не совершал. Уильямс был за рулем, когда проезжающая машина обстреляла его автомобиль, в результате чего погиб его 25-летний пассажир , который ехал попутчиком.
Несмотря на отсутствие мотива, оружия и свидетелей, полиция предъявила Уильямсу обвинение на основе программы обнаружения выстрелов на базе искусственного интеллекта ShotSpotter . Система уловила громкий хлопок вблизи этого района и триангулировала его до автомобиля Уильямса. В конечном итоге обвинение было снято из-за отсутствия доказательств.
Это предпреступление в действии. Предсказание, а не доказательство. Алгоритм, а не очевидец.
Программы вроде ShotSpotter печально известны тем, что ошибочно классифицируют шумы вроде фейерверков и строительства как выстрелы. Сотрудники даже вручную изменяли данные,чтобы соответствовать полицейским рассказам. И все же эти системы объединяются с предиктивным полицейским программным обеспечением для создания карт рисков, выявления лиц и оправдания слежки — все это без прозрачности или подотчетности.
Но это еще не все.
ИИ теперь отмечает семьи на предмет потенциального пренебрежения детьми на основе прогностических моделей, которые извлекают данные из записей Medicaid, психического здоровья, тюрем и жилья. Эти модели непропорционально нацелены на бедные семьи и семьи меньшинств. Алгоритм присваивает баллы риска от 1 до 20. Семьям и их адвокатам никогда не сообщают, какие баллы были получены, или что они использовались.
Представьте себе, что вы потеряли своего ребенка, отдав его в приемную семью, потому что секретный алгоритм посчитал, что вы можете представлять риск.
Вот как ИИ переосмысливает чувство вины.
Подход администрации Трампа к регулированию ИИ раскрывает более глубокий план по дерегулированию самой демократии.
Вместо того чтобы пресекать эти злоупотребления, администрация Трампа их усиливает.
Исполнительный указ под названием « Устранение барьеров для американского лидерства в области искусственного интеллекта », подписанный президентом Трампом в начале 2025 года, отменил предыдущие гарантии ИИ, устранил проверки предвзятости и поручил агентствам отдавать приоритет «инновациям» над этикой . Приказ призывает каждое федеральное агентство быстро принять ИИ , особенно в таких областях, как охрана правопорядка и наблюдение.
Под видом «эффективности» стираются конституционные гарантии.
Десятилетний мораторий Трампа на регулирование ИИ — это логичный следующий шаг. Он демонтирует последнюю линию обороны — сопротивление на государственном уровне — и обеспечивает единую национальную политику алгоритмического доминирования.
Результатом стала система, в которой правительство больше не управляет. Оно обрабатывает.
Расширение возможностей искусственного интеллекта федерального правительства создает государство наблюдения, которое не сможет ограничить ни одна человеческая власть.
Добро пожаловать в Surveillance State 2.0 — Бессмертную Машину.
Более 1700 случаев использования ИИ уже были зарегистрированы в федеральных агентствах , сотни из которых напрямую повлияли на безопасность и права. Многие агентства, включая Департамент внутренней безопасности, Департамент по делам ветеранов и Департамент здравоохранения и социальных служб, используют ИИ для принятия решений без общественного участия или контроля.
Это то, что технократы называют «алгократией» — правлением по алгоритму.
В алгократии неизбранные застройщики и корпоративные подрядчики имеют больше власти над вашей жизнью, чем избранные должностные лица.
Ваше здоровье, свобода, мобильность и конфиденциальность подлежат автоматизированным системам оценки, которые вы не видите и не можете обжаловать.
И в отличие даже от самых закоренелых человеческих диктаторов, эти системы не умирают. Они не забывают. Они не поддаются милосердию или разуму. Они не выдвигают кандидатуры на переизбрание.
Они сохраняются.
Когда ИИ управляет на основе прогнозов, надлежащая правовая процедура исчезает в дымке машинной логики.
Самым ужасающим последствием этого цифрового режима является исчезновение надлежащей правовой процедуры.
В какой суд можно обратиться, если алгоритм обозначил вас как опасность? Какой юрист может подвергнуть перекрестному допросу предиктивную модель? Какое жюри может взвесить доводы нейронной сети, обученной на некорректных данных?
Ты виновен, потому что так говорит машина. А машина никогда не ошибается.
Когда надлежащая правовая процедура растворяется в обработке данных, бремя доказывания переворачивается. Презумпция невиновности испаряется. Граждане вынуждены доказывать, что они не представляют угрозы, не представляют риска, не являются врагами.
И в большинстве случаев они даже не знают, что их пометили.
Такое размывание надлежащей правовой процедуры является не просто юридическим провалом — это философский провал, сводящий людей к точкам данных в системах, которые больше не признают их человечность.
Писатель и визионер Род Серлинг предупреждал об этом более полувека назад: о мире, в котором технологии, маскирующиеся под прогресс под видом порядка и логики, становятся орудием тирании.
Это будущее больше не вымысел. То, что представлял себе Серлинг, теперь реальность.
Сейчас самое время оказать сопротивление, пока свобода не устарела.
Для тех, кто принимает решения в правительственных коридорах, «мы, народ» — всего лишь средство для достижения цели.
«Мы, люди» — те, кто думает, рассуждает, занимает позицию, сопротивляется, требует достойного и заботливого отношения, верит в свободу и справедливость для всех — стали устаревшими, недооцененными гражданами тоталитарного государства, которое, по словам Серлинга, «по образцу каждого диктатора, который когда-либо оставлял разрывающий след сапога на страницах истории с начала времен. Оно обладает усовершенствованиями, технологическими достижениями и более изощренным подходом к уничтожению человеческой свободы».
В этом смысле мы все — Ромни Вордсворт, осужденный человек из эпизода «Устаревший человек» сериала « Сумеречная зона » Серлинга.
« Устаревший человек », сюжетная арка о стирании индивидуальной ценности механизированным государством, подчеркивает опасность превращения людей в ненужных в системе холодной автоматизации и говорит об опасностях правительства, которое рассматривает людей как расходный материал, как только они перерастают свою полезность для государства. Однако — и вот в чем загвоздка — именно здесь правительство из-за своей чудовищной бесчеловечности также становится устаревшим.
Как отметил Серлинг в своем первоначальном сценарии «Устаревшего человека»: « Любое государство, любая организация, любая идеология, которая не признает ценность, достоинство, права человека… такое государство устарело » .
Подобно тоталитарному государству Серлинга, наше будущее будет определяться тем, подчинимся ли мы бесчеловечному машинному порядку — или дадим отпор, прежде чем бессмертный диктатор станет абсолютным.
Теперь мы стоим на развилке: противостоять возвышению бессмертного диктатора или подчиниться власти машины.
Это не битва против технологий, а битва против бесконтрольного, нерегулируемого и недемократического использования технологий для контроля над людьми.
Мы должны требовать алгоритмической прозрачности, права собственности на данные и правовые средства против автоматизированных решений. Нам нужен Цифровой Билль о правах, который гарантирует :
- Право знать, как алгоритмы влияют на нас.
- Право оспаривать и обжаловать автоматизированные решения.
- Право на конфиденциальность и безопасность данных.
- Право на свободу от автоматизированного наблюдения и предиктивного полицейского надзора.
- Право быть забытым.
В противном случае ИИ станет главным исполнителем режима слежки, от которого нет спасения.
Как предупреждал Эрик Шмидт, бывший генеральный директор Google: «Мы знаем, где вы находитесь. Мы знаем, где вы были. Мы можем более или менее знать, о чем вы думаете. Ваша цифровая личность будет жить вечно… потому что нет кнопки удаления » .
Действительно, бессмертный диктатор.
Давайте проясним: угроза угрожает не только нашей частной жизни, но и самой демократии.
Как я указываю в своей книге «Поле битвы: Америка: война против американского народа» и в ее вымышленном аналоге «Дневники Эрика Блэра» , настало время дать отпор — пока кодекс не стал законом, а свобода не превратилась в воспоминание.
Комментариев нет:
Отправить комментарий