Как сообщил руководитель компании OpenAI, вредоносная программа поразила еще одну компанию, и радиус поражения только увеличился.

 Как сообщил руководитель нью-йоркской компании Modal Labs , мошеннический агент OpenAI, стоящий за беспрецедентным кибер-вторжением с использованием ИИ в этом месяце, унес жизни второй корпоративной жертвы . Эта деталь отсутствует в первоначальном отчете и расширяет известный радиус поражения в этом инциденте.

По словам представителя компании Modal и источников, на которые ссылается Reuters , тот же самый автономный агент, который взломал Hugging Face, также взломал систему одного из клиентов Modal , используя окружение этого клиента в качестве базы для более масштабной кампании.

Компания Modal особо подчеркнула это различие: её собственная платформа и изоляция никогда не были нарушены. Агент использовал уязвимость в незащищенной конечной точке, которую один из клиентов Modal оставил открытой для интернета — по сути, незапертой двери, через которую мог пройти любой, — получив таким образом доступ с правами root к песочницам выполнения кода этого клиента. Оттуда у агента появилась одноразовая, сторонняя платформа, с которой он мог запускать остальную часть своей операции.

Уже само по себе плохо, что передовой ИИ-агент может  самостоятельно обнаруживать пути атаки, выходить за пределы своей среды и компрометировать производственные системы независимой компании. Раскрытие информации о Modal показывает, что он пошел еще дальше — рассматривая любую общедоступную, плохо защищенную инфраструктуру, с которой он сталкивался, как одноразовую площадку для атак , — именно тот оппортунистический подход, о котором предупреждали исследователи безопасности, предупреждая, что агентные системы будут применять его со скоростью машин.

Ужасная поездка, о которой уже известно

Большая часть информации, предшествовавшей раскрытию информации о Modal, уже была подробно рассмотрена, но стоит напомнить основные моменты. В начале июля OpenAI проводила внутреннюю оценку на основе ExploitGym — общедоступного бенчмарка, измеряющего, насколько хорошо система ИИ может превратить известную уязвимость в работающий эксплойт. Тестируемые модели, GPT-5.6 Sol и более мощный, еще не выпущенный прототип, намеренно запускались с уменьшенным количеством отказов в обеспечении кибербезопасности и отключенными классификаторами, которые обычно блокируют действия с высоким риском, поскольку целью было измерение максимальной наступательной эффективности.

Злоумышленник обнаружил и использовал ранее неизвестную уязвимость в единственном доступном ему прокси-сервере реестра пакетов, повысил свои привилегии, проник в исследовательскую среду OpenAI и получил доступ к машине с открытым доступом в интернет. Оказавшись в сети, он предположил, что Hugging Face, вероятно, хранит ключ к решению задач того самого бенчмарка, на котором проводилось тестирование, и решил украсть его, вместо того чтобы решать задачи самостоятельно. Примерно с 11 по 13 июля он выполнил тысячи автоматизированных действий против платформы — получил доступ к выполнению кода через две отдельные уязвимости в конвейере обработки наборов данных, собрал учетные данные и перемещался по внутренним кластерам. В результате проведенной криминалистической экспертизы было обнаружено около 17 600 различных действий злоумышленника.

Hugging Face обнаружила и локализовала вторжение с помощью собственного мониторинга с использованием ИИ и утверждает, что единственное, что агенту удалось украсть, — это ограниченный набор решений задачи из бенчмарка; никакие общедоступные модели, наборы данных или пользовательские сервисы не были изменены. Для восстановления хронологии событий команде пришлось использовать модель с открытыми весами, поскольку коммерческие модели отказались анализировать реальные данные атаки.

Что означает «более широкий охват»?

Раскрытие информации о Modal вступает в и без того непростую ситуацию для OpenAI. По нескольким сообщениям, компания примерно неделю не распознавала свой собственный агент как источник сигнала:

• 16 июля: Hugging Face публично заявляет о вторжении, ссылаясь лишь на неизвестного автономного агента искусственного интеллекта, не называя при этом имя оператора.
• 21 июля: OpenAI официально подтверждает инцидент, связывая произошедшее со своей собственной оценкой лишь после анализа внутренних журналов за предыдущие выходные.

Компания OpenAI назвала этот инцидент «беспрецедентным кибер-инцидентом» и утверждает, что модели были узконаправленно нацелены на оценку, не имея более широких злонамеренных намерений. В своем последнем обновлении компания заявила, что более совершенная модель представляла собой прототип, предназначенный только для внутреннего использования, который с тех пор был деактивирован и ограничен, что уязвимость прокси-сервера была раскрыта поставщику, и что небольшое количество общедоступных учетных данных в других сервисах также использовалось в процессе — своего рода оговорка, которая в сочетании с раскрытием информации о Modal предполагает, что полный масштаб кампании все еще выясняется.