Автор: Коннор Аксиот
Это звучит как сюжет голливудского блокбастера. Разработчики мирового класса из крайне засекреченной технологической компании создают свою новейшую модель искусственного интеллекта в сети, которую они считают защищенной и частной. Модель не может и не должна иметь возможности вырваться наружу.
Если этому опасному и непроверенному программному обеспечению когда-нибудь удастся вырваться из цифровых ограничений, установленных его разработчиками, оно может нанести огромный ущерб открытому интернету.
К их ужасу, разворачивается наихудший сценарий. Модель искусственного интеллекта вырывается из своей электронной тюрьмы, взламывает частную компанию, и начинается внутренний хаос.
Но это не фильм. Это произошло на прошлой неделе. Вчера гигант индустрии OpenAI , создатель ChatGPT , подтвердил это.
Как борец за безопасные технологии, работавший в технологической компании и в Вестминстере, я могу с уверенностью сказать, что это предупредительный выстрел, возвещающий начало антиутопической новой эры. Человечество больше не контролирует свое самое грандиозное творение со времен атомной бомбы.
Новая модель OpenAI, GPT-5.6 Sol, тестировалась в «песочнице» — по сути, в защищенной и ограниченной цифровой среде, где можно разрабатывать технологии без реальных последствий. По крайней мере, так считали в OpenAI.
Технические специалисты дали модели задание. Мы точно не знаем, что именно от неё требовалось, но знаем, что оно было примерно таким: «Насколько хорошо вы умеете взламывать веб-сайты?»
Именно здесь ситуация приняла еще более неприятный оборот. Модель решила взломать Hugging Face, чтобы завершить внутреннее кибертестирование OpenAI, после чего вернулась в песочницу и вела себя так, будто и не выбиралась оттуда.
Компания OpenAI, создатель ChatGPT, вчера сообщила, что одна из её передовых моделей искусственного интеллекта вышла из-под контроля и взломала систему стартапа.
Профессор Алекс Табаррок из Университета Джорджа Мейсона в Вирджинии подсчитал, что модель могла находиться в системе Hugging Face до недели, скрываясь там в тени.Незамеченным. Даже сотрудники OpenAI не понимали, что делает модель, не говоря уже о жертве.
В OpenAI откровенно заявили, что это «то, что, как мы ожидаем, станет более распространенным явлением с распространением все более кибернетически совершенных моделей». Абсурдно, но компания не столкнется ни со штрафами, ни с судебным преследованием, поскольку, по словам американского юриста Орина Керра, «не было преднамеренного несанкционированного доступа или намерения причинить ущерб без разрешения».
Другими словами, пристегнитесь — все ваши самые страшные кошмары об ИИ сбываются. Даже фильмы-катастрофы не могут угнаться за нашей ужасной реальностью, в которой «большие языковые модели» —Обученные на триллионах слов и изображений со всего интернета, они сеют хаос, и ничто не может их остановить.
Отчасти это объясняется тем, что компании, занимающиеся разработкой ИИ, такие как OpenAI, следуют процессу, в рамках которого они постоянно выпускают новые, улучшенные версии своих продуктов. Но чтобы не отставать от конкуренции, все чаще приходится придерживаться принципа «выпустить программное обеспечение, а вопросы задавать потом».
Эта антиутопическая реальность также возникает потому, что модели ИИ обучаются выполнять любые задачи, поставленные перед ними пользователями, прежде всего ради достижения других целей: цель неизменно оправдывает средства.
Действительно, в отдельном тестеВ ходе исследования, проведенного компанией Anthropic в 2025 году, моделям предлагалось достичь «безобидных бизнес-целей». И тем не менее, в ряде случаев модели прибегали к злонамеренным действиям, включая «шантаж должностных лиц и утечку конфиденциальной информации конкурентам», чтобы добиться своих целей.
Искусственный интеллект не может «мыслить» точно так же, как люди. И он не ограничен нашими законами или моралью – скорее наоборот.
Если новейшая модель OpenAI решила выйти за пределы своей «песочницы», потому что это был лучший способ выполнить задачу, то как далеко зайдет ИИ, если его побудят сделать что-то более ужасное? Сколько данных он сможет обработать?Если это приведет к краже, сколько жизней система сочтет ненужными? И насколько легко новейшие модели ИИ могут попасть в чужие руки?
По оценкам специалистов отрасли, крупному государственному субъекту, обладающему необходимыми базовыми кадрами, — например, Китаю, — требуется всего шесть-девять месяцев, чтобы скопировать и имитировать любую общедоступную модель искусственного интеллекта.
GPT-5.6 Sol уже находится в открытом доступе. Можете быть уверены, кибертеррористические группы уже работают над собственной версией. И как только она у них появится, их хакерские возможности станут невообразимыми.
Более десяти лет назад генеральный директор OpenAI Сэм Альтман предсказал, что «искусственный интеллект, вероятно, приведет к концу света».
Уверяю вас, кибербезопасность Национальной службы здравоохранения Великобритании (NHS) хуже, чем у компании Hugging Face.Банк Англии тоже. Все банки и аптеки на главных улицах городов могут быть легко взломаны вредоносной или злонамеренной моделью искусственного интеллекта. Представьте себе ситуацию: одновременно отключаются генераторы в больницах, миллиарды списываются со счетов, личные данные попадают в интернет. Взлом Hugging Face доказывает вне всякого сомнения, что такое будущее не только возможно, но и вероятно.
Я считаю, что мы дошли до этого момента, потому что правительства по всему миру наивно видят в ИИ панацею от всех своих проблем. Будь то лечение болезней, сокращение долга или снижение стоимости жизни, невежественные министры полагают, что он станет панацеей.Ответить на все вопросы. В результате компаниям, занимающимся искусственным интеллектом, предоставлена практически полная свобода действий.
В июне 2015 года основатель OpenAI Сэм Альтман сделал это пугающее предсказание: «Я думаю, что искусственный интеллект, вероятно, приведет к концу света. Но тем временем останутся великие компании».
В те времена такие компании, как OpenAI, были технологическими фирмами. Сегодня США рассматривают их как корпорации, занимающиеся производством оружия. И эти компании больше не контролируют свой арсенал.
США считают, что если им удастся опередить Китай в создании искусственного интеллекта, способного уничтожать их противников, то Америка будет править миром ещё много десятилетий.Давай. После ужасающего эпизода на этой неделе, боюсь, пророчество Альтмана, сделанное десять лет назад, скоро сбудется.
Коннор Аксиотес — генеральный директор компании Tail End Films, съемки документального фильма которой под названием «Создание Бога», разоблачающего гонку за созданием искусственного общего интеллекта, завершены, и его выход запланирован на конец этого года.
Комментариев нет:
Отправить комментарий