Ведущий ученый в области искусственного интеллекта предупредил, что разработка сверхинтеллектуальных систем ИИ может представлять экзистенциальную угрозу для человечества.
Джеффри Ирвинг, бывший главный научный сотрудник Института безопасности ИИ при правительстве Великобритании, считает, что теоретически возможно разработать системы ИИ, которые будут соответствовать намерениям человека. Однако его все больше беспокоит то, что стремительные темпы развития ИИ опережают наши возможности по обеспечению безопасности этих систем.
Ирвинг ранее предупреждал, что возможности ИИ развиваются гораздо быстрее, чем наше понимание того, как контролировать и защищать все более мощные системы, что повышает риск того, что человечество в конечном итоге может потерять контроль.
ОБОЙТИ ЦЕНЗУРУ
Подпишитесь, чтобы получать нефильтрованные новости прямо на вашу электронную почту.
Вы можете отписаться в любое время. Подписываясь, вы соглашаетесь с нашими Условиями использования.
В своем мрачном предупреждении, опубликованном сегодня на X, Ирвинг оценил вероятность того, что сверхразум в конечном итоге может привести к вымиранию человечества, примерно в 50%, причем многие из важнейших решений, вероятно, будут приняты в течение следующих нескольких лет или десятилетия.
Джонни Депп рассказал, что «каннибал» Марк Цукерберг «съел собственного ребенка», чтобы остаться в Иллюминати.
Он написал: «Я думаю, что у нас есть примерно 50%-ный шанс, что все мы погибнем в результате действий сверхразума, в основном из-за событий в ближайшие несколько-десять лет».
Ирвинг добавил, что не ожидает, что исследователям удастся снизить этот уровень неопределенности до менее 10% или более 90% до тех пор, пока человечество либо успешно не справится с риском, либо не потерпит неудачу.
«Нам придётся действовать, несмотря на неопределённость», — предупредил он.
Газета Daily Express сообщила: На вопрос о том, как он получил этот процент, ученый объяснил, что в течение многих лет он придерживался диапазона от 10 до 90%, а теперь считает среднее значение «честным» ответом.
Он ответил: «Что касается 50%, то, несмотря на многолетние размышления об этом, я по-прежнему считаю, что существует огромная неопределенность модели различного рода, и несколько лет назад я пришел к выводу, что она составляет «10-90%, но я не чувствую себя достаточно точно настроенным в этом диапазоне». Затем я понял, что честным решением было просто взять среднее значение».
Ранее работавший в DeepMind, OpenAI и Google Brain , Ирвинг объяснил свой переход в государственный институт искусственного интеллекта AISI следующим образом: «Меня беспокоит, что прогресс в области безопасности слишком медленный по сравнению с темпами развития искусственного интеллекта».
Он добавил: «Большинство сотрудников и руководителей лабораторий искусственного интеллекта действуют из лучших побуждений, но рыночные силы создают постоянное давление, заставляющее отдавать приоритет скорости, а не осторожности».
За последние пять лет искусственный интеллект значительно продвинулся вперед . Системы все чаще способны рассуждать, создавать и выполнять многоэтапные задачи.
Если взять в качестве примера письмо, то модели прошли путь от создания довольно простых текстов до написания эссе, программирования, перевода и ведения связных разговоров.
Другие «эксперты» также делали подобные апокалиптические прогнозы.
Комментариев нет:
Отправить комментарий