Компания Anthropic обнародовала информацию о злонамеренном использовании модели искусственного интеллекта Claude государственными структурами в Китае и России, объявив о ликвидации ряда масштабных цифровых кампаний.
Согласно официальному отчету компании, в период с декабря 2025 года по август 2026 года были выявлены сложные операции, выходящие за рамки простых вопросов и ответов в чат-ботах. Вместо этого организованные группы использовали сложные сети искусственного интеллекта для идентификации целей, проведения кибератак и перехвата конфиденциальных данных.
Кибершпионаж и программы вооружений
В число злоумышленников входит группа, связанная с российской организацией «Полуночная метель», которая, предположительно, использовала Claude для атак на военные разведывательные службы в Украине и Европе, а также на американские дипломатические организации. Кроме того, были выявлены российские пользователи, которые пытались разработать программное обеспечение для автономных роев беспилотников-камикадзе (FPV), а также закупочную документацию для российской оборонной промышленности.
Тем временем компания Anthropic заявила, что заблокировала группу инженеров на севере Йемена, которые пытались использовать систему для разработки навигационного и управляемого программного обеспечения для управляемых ракет после неудачного испытания. Попытки использовать модель для разработки системы противокорабельной противоракетной обороны были также зафиксированы в Китае.
Массовый взлом, осуществленный китайскими лабораториями.
В отчете также подробно описываются широкомасштабные атаки по «дистилляции», совершенные семью китайскими лабораториями (включая организации, связанные с Alibaba, DeepSeek, Xiaomi и Moonshot) с целью незаконного извлечения возможностей Claude для использования в собственных моделях.
Крупнейшая атака связана с аккаунтами, подключенными к Alibaba, которые совершили более 151 миллиона взаимодействий через 3500 мошеннических аккаунтов. Аналогичным образом, китайская компания Moonshot обвиняется в тайной переадресации запросов клиентов Клоду через сеть прокси-серверов, выдавая ответы за свои собственные и раскрывая конфиденциальные данные пользователей.
Компания Anthropic подчеркнула, что постоянно усиливает меры безопасности своей платформы и сотрудничает с международными органами для предотвращения подобных угроз.
Комментариев нет:
Отправить комментарий