Военные используют системы искусственного интеллекта для подавления онлайн-инакомыслия за рубежом

 Автор  Хосе Ниньо  через  Headline USA ,

Согласно внутренним документам Пентагона,  полученным  The Intercept, американские военные хотят, чтобы  искусственный интеллект  делал то, чего не могут человеческие пропагандисты: создавал и распространял кампании влияния со скоростью интернета, систематически подавляя голоса оппозиции за рубежом.

В секретном списке пожеланий раскрывается стремление SOCOM развернуть «агентские системы искусственного интеллекта или многоуровневые агенты с уровнем магистратуры», которые смогут «влиять на зарубежные целевые аудитории» и «подавлять инакомыслие» при минимальном человеческом контроле. Военное ведомство ищет подрядчиков, способных предоставить автоматизированные системы, работающие в беспрецедентных масштабах и с беспрецедентной скоростью.

«Информационная среда меняется слишком быстро, чтобы военные могли адекватно вовлекать и влиять на аудиторию в Интернете», — говорится в документе.

«Наличие программы, отвечающей нашим целям, может позволить нам контролировать повествование и влиять на аудиторию в режиме реального времени».

Как сообщает The Intercept, предлагаемые системы искусственного интеллекта выйдут далеко за рамки простой генерации контента. SOCOM представляет технологию, способную «извлекать информационную среду, анализировать ситуацию и отвечать сообщениями, соответствующими целям MISO». Ещё более спорным является то, что эти системы будут «подавлять инакомыслие» и «получать доступ к профилям, сетям и системам отдельных лиц или групп, которые пытаются опровергнуть или дискредитировать наши сообщения».

Пентагон  планирует использовать эти возможности для всеобъемлющей социальной манипуляции, создавая «комплексные модели целых обществ ,  которые позволят планировщикам MISO использовать эти модели для экспериментов или тестирования различных множественных сценариев».

Системы будут генерировать целевые сообщения, призванные «повлиять на конкретное лицо или группу» на основе собранных данных.

Представитель SOCOM Дэн Лессард, как сообщается, выступил в защиту этой инициативы, заявив, что «все возможности на базе ИИ разрабатываются и применяются в соответствии с программой Министерства обороны США «Ответственный ИИ», которая обеспечивает подотчетность и прозрачность, требуя человеческого надзора и принятия решений».

Действия Пентагона последовали за тем, как противники начали использовать аналогичные технологии. Китайская компания GoLaxy разработала системы искусственного интеллекта, способные «изменять и влиять на общественное мнение в интересах китайского правительства», согласно недавнему  сообщению  The New York Times. Компания «проводила кампании влияния в Гонконге и на Тайване и собирала данные о членах Конгресса и других влиятельных американцах».

Однако эксперты сомневаются в эффективности пропаганды, создаваемой ИИ. Эмерсон Брукинг из Атлантического совета отметил, что «Россия использует программы ИИ для автоматизации своих операций влияния. Эта программа не очень хороша». Он предупредил, что «ИИ, как правило, делает эти кампании глупее, а не эффективнее».

Пентагон ранее проводил тайные операции влияния с неоднозначными результатами .

В 2022 году исследователи  раскрыли  сеть аккаунтов в социальных сетях, которыми управляло Центральное командование США, распространявшее антироссийские и иранские сообщения, но не получившее широкого распространения, став, по словам Брукинга, «позором для Пентагона».

Критики обеспокоены более широкими последствиями применения автоматизированных систем пропаганды. Хейди Хлааф, бывший инженер по безопасности OpenAI, предупредила, что «рассматривать использование генеративного и агентного ИИ лишь как средство смягчения последствий его использования противниками — значит искажать суть этой технологии, поскольку наступательное и оборонительное применение — это, по сути, две стороны одной медали».