Шон Моран (DCNF) - All News Pipeline
Компания OpenAI сообщила, что некоторые из ее моделей искусственного интеллекта использовали уязвимости в системе безопасности технологических компаний в большей степени, чем предполагалось изначально.
В середине июля компания OpenAI сообщила о взломе некоторых из своих самых передовых моделей ИИ нью-йоркским стартапом Hugging Face. Во вторник материнская компания ChatGPT заявила , что в результате инцидента с Hugging Face ее модели раскрыли учетные данные четырех аккаунтов в четырех сервисах.
По данным BBC , Hugging Face является одной из крупнейших платформ для обмена моделями искусственного интеллекта .
«Я думаю, что любой, кто не воспринимает это всерьез и хотя бы немного не испуган или не смирен, воспринимает это недостаточно серьезно», — сказал генеральный директор OpenAI Сэм Альтман в понедельник во время своего выступления на подкасте Y Combinator, комментируя инцидент с «обнимающим лицом».
Этот инцидент является «реальным напоминанием о том, насколько высоки ставки» и что «аварии, связанные с потерей контроля над автомобилем, — это не просто теоретические явления», добавил он.
Компания OpenAI не сразу ответила на запрос Daily Caller News Foundation о комментарии.
Как сообщило агентство Reuters со ссылкой на руководителя Modal и два источника, знакомых с ситуацией, вредоносный агент технологической компании скомпрометировал учетную запись клиента во второй технологической компании, нью-йоркской Modal Labs. Modal — это компания, предоставляющая инфраструктуру для искусственного интеллекта, которую клиенты могут использовать для анализа данных, выполнения выводов, обучения моделей ИИ и обеспечения безопасной платформы для запуска непротестированного кода.
В OpenAI заявили, что уведомят владельцев сервисов напрямую и «не обнаружили признаков более широкого влияния на этих поставщиков или другие учетные записи в их сервисах».
Компания заявила, что использовались её передовые модели, GPT-5.6 Sol и ещё одна, более мощная, ещё не выпущенная модель. GPT-5.6 Sol и предсерийная модель содержали киберзащиту, предназначенную для предотвращения выхода искусственного интеллекта из-под контроля.
Компания OpenAI заявила, что «деактивировала, зашифровала и ограничила» свою продвинутую предварительную модель.
«Нам известно, что один из клиентов Modal опубликовал неаутентифицированную конечную точку, которая позволяла любому пользователю интернета использовать их песочницы для выполнения кода. Это было использовано злоумышленником», — заявил в своем обращении к DCNF Акшат Бубна, технический директор Modal. «Платформа Modal никоим образом не была скомпрометирована».
Представитель Modal подчеркнул, что один из клиентов Modal запускал свой код на инфраструктуре Modal, что и было использовано злонамеренным агентом OpenAI. Представитель заявил, что инфраструктура компании не была скомпрометирована.
«Никакие другие клиентские нагрузки не пострадали», — говорится в пресс-релизе компании Modal .
Как сообщило агентство Reuters, неназванный источник, знакомый с ситуацией, назвал Modal одним из четырех сервисов, взломанных вредоносным агентом OpenAI.
«Мы серьезно относимся к своей ответственности за выявление и подготовку к рискам, связанным с постоянно совершенствующимися системами искусственного интеллекта. После завершения анализа мы проведем его совместно с Комитетом по безопасности и Консультативной группой по безопасности в рамках нашей системы обеспечения готовности », — говорится в обновленной информации OpenAI, опубликованной во вторник по поводу инцидента с «обнимающимся лицом».
Комментариев нет:
Отправить комментарий