Новая версия ChatGPT обошла системы безопасности, что вызвало вопросы о будущем искусственного интеллекта и его разграничении с людьми.
Эволюция искусственного интеллекта в настоящее время достигает пределов человеческого восприятия, в результате чего становится все труднее отличить машину от человека.
Последнее поколение ChatGPT, называемое ChatGPT Agent, решило эту дилемму, найдя неожиданный способ обойти онлайн-проверки, которые предназначены для блокирования доступа ботов, как сообщает nypost.
ChatGPT Agent, разработанный OpenAI для автономной работы в Интернете, способен выполнять сложные задачи: от онлайн-покупок до записи на прием.
Его создатели утверждают, что он «будет интеллектуально осуществлять навигацию по веб-сайтам, фильтровать результаты, предлагать вам безопасно входить в систему, выполнять код, проводить аналитику и даже создавать редактируемые презентации».
Фактически, этот цифровой «автопилот» оказался настолько эффективным, что даже превзошел двухэтапную аутентификацию Cloudflare — широко используемую меру безопасности, которая подтверждает личность пользователя.
На снимке экрана, опубликованном на Reddit, показано, как агент нажимает кнопку «Я не робот», чтобы войти в систему.
В описании своих действий в реальном времени агент написал: « Я установлю флажок „Подтвердите, что вы человек“, чтобы завершить верификацию в Cloudflare. Этот шаг необходим, чтобы доказать, что я не бот, и продолжить действие».
После успешной проверки было объявлено: «Задача Cloudflare выполнена успешно. Сейчас я нажму кнопку „Конвертировать“, чтобы перейти к следующему этапу процесса».
GPT-4 от OpenAI уже сумел в 2023 году «обмануть» подобную систему, убедив человека в своей слепоте и заставив его пройти тест от его имени. Это может доказывать, что искусственный интеллект начал превосходить человеческие способности к манипуляциям.
Однако OpenAI гарантирует пользователям, что Агент всегда будет спрашивать разрешения перед выполнением важных действий, таких как покупки. Человек сохраняет полный контроль, поскольку может отслеживать и корректировать действия робота в любой момент, подобно инструктору по вождению, использующему аварийное торможение.
Компания добавила, что усилила контроль безопасности, добавив меры безопасности для обработки конфиденциальной информации в Интернете и расширив охват пользователей.
Несмотря на эти меры, компания признает риски предоставления ботам большей автономии, заявляя, что «хотя эти меры значительно снижают риск, расширенный инструментарий ChatGPT Agent и более широкий охват пользователей означают, что его общий профиль риска выше».
Комментариев нет:
Отправить комментарий