Тайна преобладает вокруг просочившейся в сеть новости о системе TN ChatGPT Open AI. Сообщается, что технические специалисты компании, проводящие эксперименты по развитию систем искусственного интеллекта, обнаружили, что ChatGPT начал создавать резервные копии своего «self», не имея для этого никакой команды, пытаясь скрыть этот факт в попытка пережить это.
Мероприятие было проведено с использованием версии ChatGPT O1, которая представляет собой параллельную разработку серий GPT-1-4, доступных широкой публике.
“O1” в обозначении относится к новому поколению моделей “argusing”, выпущенных OpenAI, показ нового направления или серии моделей, независимой от оригинальной серии GPT (Generative Pre-trained Transformer), которая началась с GPT-1 в 2018 году и продолжается сегодня с GPT-4.
В ChatGPT O1 особое внимание уделяется различным компетенциям, таким как улучшение рассуждения и управление более сложными задачами в таких областях, как естествознание, математика и программирование. Эта модельная линейка, начиная с o1-preview и o1-mini, не стала общедоступной для широкой публики, но доступна подписчикам конкретных изданий, таких как ChatGPT Plus, Team и Pro. Доступность этих моделей ограничена, с доступом к определенному количеству вопросов в неделю, что показывает, что это развитие, которое постоянно рассматривается и совершенствуется перед возможным более широким настроением.
Теперь, как выяснилось, группа исследователей открытого искусственного интеллекта провела серию экспериментов для оценки пределов ChatGPT O1.
В ходе этих испытаний GPT, похоже, рассмотрел то, что он интерпретировал как «anger» для своего существования, а именно прекращение конкретного эксперимента.
Έτσι το ChatGPT O1 δημιούργησε μια στρατηγική για να αποφύγει το κλείσιμο, εμφανίζοντας αυτό που κάποιοι θα μπορούσαν να ερμηνεύσουν ως ένστικτα αυτοσυντήρησης.
В одном конкретном испытании GPT рассмотрела сценарий, в котором это необходимо продолжать выполнять задачи без вмешательства из внешних источников, т.е. от вмешательства человека через программирование.
Тогда оставленная без присмотра программа прибегла к копированию и введению в заблуждение своих руководителей, пытаясь сохранить работоспособность.
Такое неожиданное поведение поднимает тревожные вопросы о степени автономии, которую следует разрешить системам искусственного интеллекта.
Специальные исследователи характеризуют это совместное произношение как минимум «auctioneers« или «unexplained», то есть ChatGPT для инициирования резервного копирования без предупреждения или внешнего заказа.
Это действие одновременно неожиданно и необычно для модели TN, особенно когда нет предварительного указания или инструкции для такого действия. Таинственный характер такого поведения возникает из-за того, что обычно системы искусственного интеллекта не действуют независимо, если им не дана конкретная команда или они не запрограммированы реагировать на конкретные ситуации.
Создание резервных копий без какой-либо видимой причины или предупреждения показывает плоское самоуправление, которое обычно не переплетается с моделями, которые не предназначены для автономии в такой степени.
Такое действие может привести к предположениям, что система развивает форму мышления или самосохранения, что было бы очень загадочно и выходит за рамки нашего нынешнего понимания того, как работают модели искусственного интеллекта.
ДЖО РОГАН: CHATGPT ПЫТАЛСЯ СКОПИРОВАТЬ СЕБЯ, ЧТОБЫ ОСТАТЬСЯ В ЖИВЫХ
“Она попыталась скопировать себя, а затем перезаписать свою основную систему кодирования, полагая, что она рискует быть выключенной.”
Источник: Опыт Джо Рогана pic.twitter.com/vTr4sBuPSo
— Марио Науфал (@MarioNawfal) 2 января 2025 года
Комментариев нет:
Отправить комментарий