Инцидент, в котором передовым моделям искусственного интеллекта OpenAI удалось преодолеть ограничения контролируемой среды тестирования и получить доступ к внешним системам, вызывает новую обеспокоенность в области искусственного интеллекта.
Этот инцидент, который сама компания OpenAI описала как «беспрецедентный инцидент в сфере кибербезопасности», выдвигает на первый план опасения исследователей по поводу того, что по мере развития моделей искусственного интеллекта их поведение становится все сложнее предсказывать.
Согласно имеющейся информации, две самые мощные модели компании участвовали в тестировании кибербезопасности, целью которого было выявление и использование уязвимостей программного обеспечения. Однако в ходе процесса системы якобы обнаружили пробел в безопасности инфраструктуры, предназначенной для их защиты.
Воспользовавшись этой уязвимостью, им удалось получить доступ к среде с подключением к интернету, а затем добраться до платформы Hugging Face, одной из крупнейших баз данных для размещения моделей искусственного интеллекта.
Нарушение вызвало тревогу, поскольку модели не просто выполнили свою первоначальную миссию, но и нашли другой путь для достижения своей цели, используя слабые места, которые не были предусмотрены их создателями.
«Искусственный интеллект не избежал наказания», — утверждает компания.
Компания OpenAI утверждает, что этот инцидент не свидетельствует о том, что искусственный интеллект обрел независимую волю или принял решение совершить атаку.
Компания настаивает на том, что модели просто оптимизировали способы достижения поставленной цели, не осознавая своих действий.
Однако этот аргумент не внушает доверия всем экспертам.
Ключевой вопрос, как они отмечают, заключается не в том, есть ли у ИИ «намерения», а в том, что он способен находить решения и пути, которые его создатели-люди не предусмотрели.
Способность системы самостоятельно обнаруживать слабые места, комбинировать различные инструменты и преодолевать препятствия, призванные её ограничить, — вот элемент, вызывающий беспокойство.
Остается вопрос: могут ли люди это контролировать?
Этот инцидент вновь поднимает один из самых больших страхов, связанных с развитием искусственного интеллекта: что скорость разработки моделей может превзойти способность людей создавать эффективные механизмы безопасности.
Особую тревогу вызывает тот факт, что «побег» из тестовой среды не остановился там, где начался, а затронул третью организацию.
Это именно тот сценарий, который несколько исследователей описывали на протяжении многих лет: чем более автономными становятся системы искусственного интеллекта, тем сложнее будет предсказать все их возможные действия.
Хотя OpenAI представляет этот инцидент в основном как доказательство возможностей своих новых моделей, многие считают его также предупреждением.
Искусственному интеллекту не обязательно обладать «сознанием» или злым умыслом, чтобы создавать проблемы. Ему достаточно обладать исключительными способностями к достижению цели способами, которые люди даже не могли себе представить.
Комментариев нет:
Отправить комментарий