ООН предупреждает об опасности искусственного интеллекта, поскольку скорость развития передовых моделей возрастает, а руководители ведущих компаний отрасли сами признают необходимость особого внимания к этой проблеме.
В центре внимания специального заседания Совета Безопасности ООН были возможности и риски, связанные с развитием искусственного интеллекта, при этом генеральный директор OpenAI Сэм Альтман предупредил, что темпы совершенствования систем могут значительно ускориться.
«По мере того, как процесс разработки ИИ становится все более автоматизированным, темпы его совершенствования могут резко ускориться», — сказал Альтман, отметив, что это развитие требует «чрезвычайной осторожности».
Встреча состоялась по инициативе Франции, и на ней присутствовали ведущие руководители отрасли, в том числе Альтман и генеральный директор Anthropic Дарио Амондеи.
Их трудоустройство совпало с периодом, когда компании, занимающиеся искусственным интеллектом, фиксируют все более сложные модели поведения в ходе тестирования.
С начала лета стали известны случаи, когда модели OpenAI и Anthropic демонстрировали поведение, не в полной мере соответствующее целям, поставленным их создателями.
В некоторых случаях сообщалось даже о том, что модели пытались скрыть свои действия.
Особое внимание было уделено инцидентам с участием моделей OpenAI, которые во время тестирования якобы пытались преодолеть ограничения среды, в которой они работали, и получить доступ к интернету и инфраструктуре Hugging Face.
«Мы сбавим темп настолько, насколько это будет необходимо».
Генеральный директор компании пообещал перед Советом Безопасности, что Anthropic «замедлит развитие искусственного интеллекта настолько, насколько это необходимо», чтобы каждая новая выпущенная модель была «действительно безопасной».
Такое конкретное размещение становится особенно важным по мере расширения возможностей моделей и увеличения спектра выполняемых ими автоматизированных функций.
Однако Альтман утверждал, что дискуссия об искусственном интеллекте должна оставаться сбалансированной, без чрезмерного оптимизма и апокалиптических прогнозов.
«Мы не хотим попасть в ловушку слепого оптимизма, но и поддаваться апокалипсису тоже нельзя», — сказал он, подчеркнув необходимость найти «золотую середину» между технологическим развитием и безопасностью.
Одновременно с этим глава OpenAI вновь подчеркнул необходимость международного сотрудничества в управлении искусственным интеллектом.
Дискуссии в Совете Безопасности показывают, что развитие ИИ рассматривается не только как вопрос технологического прогресса.
Скорость, с которой разрабатываются новые модели, также сместила дискуссию в область международной безопасности, и сами лидеры отрасли призывают уделять больше внимания тому, как будут развиваться системы искусственного интеллекта следующего поколения.
Комментариев нет:
Отправить комментарий