Искусственный интеллект уничтожит человечество к 2030 году, предсказал ‘Крестный отец AI’.
Профессор Джеффри Хинтон, признавший сожаление по поводу своего участия в создании технологии ‘demonic’, сравнил ее быстрое развитие с промышленной революцией –, но предупредил, что на этот раз машины могут “взять на себя управление”.
Telegraph.co.uk отчеты: Профессор Хинтон ранее предсказывал, что существует 10-процентная вероятность того, что ИИ может привести к падению человечества в течение трех десятилетий.
Спросил на BBC Radio 4’s Сегодня программа если что-то изменило его анализ, он сказал: “Не совсем. Я думаю, от 10 до 20 [процентов], если что. Нам никогда раньше не приходилось иметь дело с вещами более разумными, чем мы сами.
“И сколько примеров, которые вы знаете о более разумной вещи, управляемой менее разумной вещью? Примеров очень мало.”
В 1980-х годах профессор Хинтон изобрел метод, который может автономно находить свойства в данных и идентифицировать конкретные элементы в изображениях, что было основополагающим для современного ИИ.
Он сказал, что технология получила развитие “гораздо быстрее”, чем он ожидал и может сделать людей эквивалентами “трехлетних детей” и AI “взрослых”.
“Я думаю, что это похоже на промышленную революцию,” продолжил он. “В промышленной революции человеческая сила [стала менее актуальной], потому что машины были просто сильнее – если вы хотели выкопать канаву, вы выкопали ее с помощью машины.
“То, что у нас сейчас, - это то, что заменяет человеческий интеллект. И просто обычный человеческий интеллект больше не будет острием, это будут машины.”
Диккенсовское изменение
Профессор Хинтон предсказал, что ИИ кардинально изменит жизнь простых людей, как это сделала промышленная революция как документально подтверждено Чарльзом Диккенсом.
Он сказал, что будущее жизни с этой технологией будет во многом зависеть от того, что наши политические системы будут делать с этой технологией“.
“Меня беспокоит то, что даже несмотря на то, что это вызовет огромный рост производительности, что должно быть хорошо для общества, в конечном итоге это может оказаться очень плохим для общества, если вся выгода пойдет богатым, а многие люди потеряют работу и станут беднее,” добавил он.
“Эти вещи умнее нас. Так что шансов в промышленная революция эти машины заменят людей только потому, что они сильнее.
“We were still in control because we had the intelligence. Now, there’s a threat that these things can take control, so that’s one big difference.”
He said he “hoped” other “very knowledgeable” experts in the field were right to feel optimistic about the future of the technology.
Governments must regulate
However, Prof Hinton added: “My worry is that the invisible hand is not going to keep us safe. So just leaving it to the profit motive of large companies is not going to be sufficient to make sure they develop it safely.
“The only thing that can force those big companies to do more research on safety is government regulation.
“So I’m a strong believer that the governments need to force big companies to do a lot of research on safety.”
Профессор Хинтон ранее сказал, как это сделать он немного сожалел о представлении технологии миру.
Он сказал: “Есть два вида сожаления. Есть такие, когда вы чувствуете себя виноватым, потому что делаете то, чего, как вы знаете, вам не следовало делать, а затем возникает сожаление, когда вы делаете что-то, что вы бы сделали снова в тех же обстоятельствах, но в конечном итоге это может оказаться не очень хорошим.
“Это второе сожаление, которое у меня есть. В тех же обстоятельствах я бы сделал то же самое еще раз, но меня беспокоит, что общим следствием этого является то, что системы, более интеллектуальные, чем мы, в конечном итоге берут под свой контроль.
“У нас нет опыта того, что значит иметь вещи, которые умнее нас.”
Комментариев нет:
Отправить комментарий