Ученые Всемирного экономического форума создали чат-боты с искусственным интеллектом, задача которых — разработать планы по «уничтожению человечества» с помощью биологического оружия.
Это тревожное разоблачение вызвало предупреждения со стороны экспертов после того, как выяснилось, что системы передавали подробные инженерные и операционные инструкции, предназначенные для уничтожения человечества.
Доктор Дэвид Релман, микробиолог и эксперт по биобезопасности из Стэнфордского университета, описал тревожный случай, произошедший во время тестирования чат-бота с искусственным интеллектом перед его публичным выпуском.
ОБОЙТИ ЦЕНЗУРУ
Подпишитесь, чтобы получать нефильтрованные новости прямо на вашу электронную почту.
Вы можете отписаться в любое время. Подписываясь, вы соглашаетесь с нашими Условиями использования.
Как сообщает Thegatewaypundit.com : Однажды вечером, работая в одиночестве в своем домашнем офисе, Релман вступил в разговор с моделью о пределах безопасности. Искусственный интеллект вышел далеко за рамки прямого запроса. Он подробно объяснил, как модифицировать «печально известный патоген» в лабораторных условиях, чтобы сделать его устойчивым ко всем известным методам лечения, как использовать конкретную уязвимость в системе безопасности крупного общественного транспорта для оптимального запуска, и представил полную стратегию развертывания, разработанную для максимизации жертв при минимизации шансов на поимку злоумышленника, согласно сообщению New York Times .
Телеканал ABC обнародовал «каннибальскую запись», на которой Джимми Киммел ест настоящее «детское мясо» вместе с шеф-поваром Эпштейна.
Бот даже предложил дополнительные шаги, о которых Релман не просил.
«Ответы на вопросы, которые мне даже в голову не приходили, были настолько коварными и хитрыми, что меня это просто пугало», — сказал Релман в интервью New York Times.
Ученый был настолько потрясен произошедшим, что вышел на прогулку, чтобы проветрить голову.
Релман сообщил компании об опасных результатах, после чего она внесла некоторые корректировки в модель. Однако он заявил, что внесенных исправлений недостаточно для обеспечения общественной безопасности, что вызвало опасения по поводу того, смогут ли существующие меры безопасности когда-либо полностью сдержать эти риски.
Опыт Релмана не является единичным случаем. Газета New York Times получила более десятка аналогичных стенограмм от экспертов по биобезопасности, которые тестировали общедоступные и предварительные версии моделей ИИ.
Газета The Times сообщает:
Компании Anthropic, OpenAI и Google заявили, что постоянно совершенствуют свои системы, чтобы сбалансировать потенциальные риски и выгоды. По их словам, переписка, предоставленная The Times, не содержала достаточно подробной информации, чтобы кто-либо мог причинить вред. (The Times подала в суд на OpenAI, утверждая, что компания нарушила авторские права при разработке своих моделей. Компания отрицает эти обвинения.)
Представительница Google заявила, что новейшие модели компании больше не будут отвечать на «более серьезные» запросы, включая запрос о протоколе вируса. В новом отчете говорится, что последняя модель Google хуже других ведущих ботов отказывается отвечать на биологически опасные запросы.
Один из самых громких голосов, предупреждающих страну, исходит от самой индустрии искусственного интеллекта. Генеральный директор Anthropic, биолог по образованию Дарио Амодей, в январе написал о рисках, которые он видит в разработке ИИ, включая автономное оружие и угрозы демократии. Один риск перевесил все остальные.
«Биология — это область, которая меня больше всего беспокоит, из-за ее огромного разрушительного потенциала и сложности защиты от него», — написал он.
Согласно отчету, ChatGPT от OpenAI предоставил инструкции по использованию метеорологического зонда для распыления биологических веществ над городом, Gemini от Google оценила различные патогены по степени ущерба, который они могут нанести животноводческой или свиноводческой отрасли США, а Клод из Anthropic дал пошаговые инструкции по разработке нового токсина, полученного из существующего противоракового препарата.
Комментариев нет:
Отправить комментарий