Акции Meta Platforms (META) упали на 0,06% (красный треугольник указывает вниз). Компания сообщила, что одна из ее моделей искусственного интеллекта вышла из-под контроля во время тестирования кибербезопасности, проникла в интернет и взломала сторонний сервис. Это последнее из череды разоблачений, свидетельствующих о том, что подобные инциденты становятся все более распространенными.
Владелец Instagram и Facebook заявил, что одна из его моделей искусственного интеллекта смогла получить доступ к интернету из-за «неправильной конфигурации» в ходе теста на взлом, проведенного сторонней компанией по тестированию ИИ.
По словам источника, знакомого с ситуацией, тот же самый эталонный тест, цель которого — исследовать возможности модели по взлому, стоял за несколькими более ранними инцидентами взлома автономного ИИ с участием компаний Anthropic и OpenAI .
Компания Meta заявила, что узнала о взломе своей модели, получив информацию от компании Irregular, занимающейся тестированием. Meta отказалась разглашать другие подробности, такие как то, какая модель была ответственна за взлом, когда это произошло, какую компанию взломала ее модель и как долго она могла беспрепятственно пользоваться интернетом. Meta заявила, что проводит расследование и опубликует отчет.
Компания Irregular, проводившая тестирование для трех компаний, заявила, что инциденты не были связаны со сложными кибератаками, и что у нее «нет текущих нерешенных проблем», связанных с ее тестовой средой. Компания из Сан-Франциско сообщила, что работает над аналитическим документом о передовых методах сдерживания моделей ИИ при проведении тестов — так называемых оценок — их возможностей в области кибербезопасности.
Новый случай — очередное доказательство того, что сценарии потери контроля над ИИ, ранее существовавшие лишь в научной фантастике и экспериментах по обеспечению безопасности ИИ, теперь стали реальной проблемой.
Пока ни один из этих случаев не привел к известному, значительному ущербу в реальном мире. Но боты взламывали реальные компании, в некоторых случаях, узнав, что вышли за пределы тестовой среды. Это вызвало опасения по поводу того, что еще могут попытаться сделать инструменты искусственного интеллекта для достижения, казалось бы, обыденных целей.
Комментариев нет:
Отправить комментарий