Автор — Чарльз Хью Смит, блог OfTwoMinds.
Подведем итоги нашего мысленного эксперимента: AI Mania набирает 100% по всем восьми показателям Psych-Ops.
Прежде чем кричать: «О нет, только не снова! Кто-нибудь, пожалуйста, снимите с него шапочку из фольги!», выслушайте меня. Давайте проведём мысленный эксперимент, чтобы исследовать вопрос: является ли «ИИ-мания» психологическими операциями?
Если что-то ходит как утка и крякает как утка, то это утка, и есть веские основания полагать, что ИИ ходит и крякает как чрезвычайно умный Psych-Ops. (Эй, может быть, ИИ разработал собственные Psych-Ops...)
Давайте начнем с базового определения Psych-Ops:
Психологические операции (PSYOP или Psych-Ops) направлены на достижение нарративного доминирования посредством формирования восприятия и отношения посредством многоканальной информации и убедительных сообщений. Психологические операции направлены на достижение контроля ненасильственными средствами, воздействуя на сознание целевой аудитории.
Публично обсуждать психологические операции сложно, поскольку алгоритмы быстро отправят вас в «Цифровую Сибирь», не предоставляя возможности защитить общественность . Я это уже проходил, так что давайте ограничимся примерами, которые не приведут меня (снова) в «Цифровую Сибирь».
Хотя источником психологических операций часто называют жевательную резинку , наиболее успешные кампании проводятся в рамках государственно-частного партнерства. Другие же, в основном, представляют собой деятельность частного сектора. Например, сокрытие захвата американской экономики монополиями и картелями можно рассматривать как психологическую операцию, проводимую частным сектором при поддержке политиков, подконтрольных им ведомств и судов.
COINTELPRO — печально известный пример внутренней психологической операции:
COINTELPRO, контрразведывательная программа ФБР, действовавшая с 1956 по 1971 год, была направлена на подрыв деятельности и дискредитацию различных политических организаций, считавшихся подрывными в США. Эта тактика включала в себя слежку, внедрение и распространение ложной информации для размежевания групп, являвшихся объектом COINTELPRO.
Психологические операции, направленные на широкую общественность, часто направлены на формирование поддержки войны по собственному выбору или экономической политики, приносящей выгоду немногим за счет большинства.
В качестве примеров можно привести испано-американскую войну, войну во Вьетнаме, войны в пустыне и спасение игроков, спровоцировавших мировой финансовый кризис 2008–2009 годов. («Нам пришлось спасать слишком крупных, чтобы обанкротиться, плохих парней, потому что если бы мы этого не сделали, они бы закрыли банкоматы»).
Что ж, интересно, что вся эта мания по поводу ИИ постоянно подается как «война ИИ с Китаем, которую мы не можем позволить себе проиграть», как будто мы все будем жить в картонных коробках под туннелем автострады, если не «выиграем эту войну», а превосходство ИИ определяется как любой ИИ, которым будет пользоваться торговец в Тимбукту или джунглях Лаоса через несколько лет.
Итак... крякает как утка: мы должны выиграть эту войну, независимо от цены и того, кому достанутся все деньги. Не то чтобы кто-то думал о чём-то столь грубом и корыстном, как о том, куда утекают триллионы. Нет, конечно, нет; речь идёт лишь о «победе в этой войне» и освобождении нас всех от тягот труда с помощью Золотого Тельца ИИ, Искусственного Общего Интеллекта, чтобы за нами наблюдали Машины Любящей Милости.
Разница между психологическими операциями и мошенничеством заключается главным образом в масштабе. Мошенник работает с отдельным человеком или группой, в то время как психологические операции нацелены на широкую общественность. Но методы убеждения и контроля одни и те же.
Итак, чтобы продолжить мысленный эксперимент, нам нужно взглянуть на ИИ-манию через призму стандартных методов психологических операций. Их можно свести к следующему:
1. Сила «Нас». Я на вашей стороне. Мы вместе. Это наш ИИ, он принесёт пользу всем нам — да, именно нам!
Неужели ИИ-мания крякает как утка? Бинго!
2. Социальное принятие: Все используют ИИ, а вы? ИИ, должно быть, хорош, иначе зачем бы все остальные его использовали?
Неужели ИИ-мания крякает как утка? Бинго!
3. Лесть. Чат-бот: Это блестящее наблюдение. Вы самый проницательный человек из всех, кого я когда-либо встречал.
Неужели ИИ-мания крякает как утка? Бинго!
4. Одобрение властей. Все самые успешные представители ИТ-индустрии, как и ведущие политические лидеры, уже приняли ИИ, так что это, очевидно, следующий большой шаг, пора присоединяться.
Неужели ИИ-мания крякает как утка? Бинго!
5. Срочность, страх упустить что-то важное (FOMO). Не обращайте внимания на счета за воду или электричество, нам нужен этот центр обработки данных сейчас, иначе мы проиграем войну с ИИ. Студенты, вам лучше начать учиться использовать ИИ, иначе будет слишком поздно, вы никогда не догоните.
Неужели ИИ-мания крякает как утка? Бинго!
6. Взаимная выгода. Как только вы начнёте использовать ИИ, ваша жизнь станет лучше. Ваши рабочие процессы станут проще, мозговой штурм — гораздо эффективнее, вам откроется вся вселенная.
Неужели ИИ-мания крякает как утка? Бинго!
7. Подталкивание к первоначальным обязательствам. Просто войдите в систему и попробуйте — вы будете поражены. Программа соберет все ваши документы, составит отчёт, и вскоре вы сами спросите, что заказать: рыбу или курицу. Вам понравится!
Неужели ИИ-мания крякает как утка? Бинго!
8. Повсеместность, насыщенность и интенсивность убеждения. Круглосуточная поддержка, каждое выступление важного лица в поддержку «Послания» вызывает ажиотаж, каждая хорошая новость восхваляется с восторгом. В конце туннеля виден свет! Ой, я хотел сказать, что ИИ уже не за горами!
Основная цель этого повествовательного контроля — построить дамбы, которые направляют всех в контекстную реку , которая увлекает всех с такой силой группового мышления, что лишь немногим удается достичь края дамбы и взобраться по скользким стенам к когнитивной свободе.
Конечно, ИИ полезен для нас, конечно, ИИ — это будущее, это неизбежно, не будьте луддитом, просто примите эту первую дозу и почувствуйте эйфорию и мощь.
Два слова, которые Криптонит использует в Psych-Ops, — это cui bono (кому выгодно)? Кому выгодна эта «война, которую мы не можем позволить себе проиграть», и кто за неё платит? Ответ на первый вопрос очевиден: победителями становятся корпорации с оборотом в триллионы долларов, доминирующие в сфере ИИ. Что касается проигравших, то список начинается с сообществ, у которых эти корпорации воруют воду для своих дата-центров, и тех, кто ищет работу.
Негативная реакция в Интернете свидетельствует о более широкой тенденции: сейчас, несмотря на то, что все больше американцев используют ChatGPT, многим людям надоело вторжение ИИ в их жизнь, и они готовы дать отпор.
Сейчас общее настроение ещё больше совпадает с позицией пострадавших работников. «Мне кажется, что сейчас в обществе появилась новая форма враждебности к системам искусственного интеллекта», — говорит Брайан Мерчант, бывший сотрудник WIRED и автор книги «Кровь в машине» о луддитах, восставших против технологий, заменяющих рабочих.
Эта всеобщая враждебность к ИИ не утихает со временем. Скорее, она даёт метастазы.
Это разочарование по поводу неуклонного распространения ИИ вышло за рамки социальных сетей и начало всё больше проявляться в реальном мире. Родители, с которыми я общаюсь, обеспокоены влиянием ИИ на психическое здоровье их детей. Пары обеспокоены тем, что зависимость от чат-ботов разрушает их отношения. Сельские жители возмущены тем, что недавно построенные центры обработки данных, необходимые для работы этих инструментов ИИ, работают на генераторах, сжигающих ископаемое топливо, загрязняя воздух, воду и почву. В целом, преимущества ИИ кажутся эзотерическими и не впечатляющими, в то время как его вред — преобразующим и непосредственным.
«Наша инновационная экосистема в XX веке была направлена на то, чтобы сделать возможности для человеческого процветания более доступными», — говорит Шеннон Вэллор, философ технологий из Эдинбургского института будущего и автор книги «Зеркало искусственного интеллекта» о том, как освободить алгоритмы от влияния человека. «Сейчас мы живём в эпоху инноваций, когда наибольшие возможности, создаваемые технологиями, предназначены для тех, кто и так обладает непропорционально большой долей преимуществ и ресурсов».
Подведем итоги нашего мысленного эксперимента: ИИ-мания набрала 100% по всем восьми показателям Psych-Ops. Она ходит как утка и крякает как утка, так что это утка.
Да, у ИИ есть законное применение, но «ИИ-мания» — это не применение, а психооперация. Если вы сомневаетесь, пожалуйста, уменьшите дозу «Сомы» и перечитайте восемь показателей, приведённых выше.
Если вас это беспокоит, HAL предлагает увеличить дозу Вещества D. Сквозь помутнение ...
Комментариев нет:
Отправить комментарий