Профессор Джеффри Хинтон, британско-канадский лауреат Нобелевской премии, известный своими работами по разработке нейронных сетей, встретится с лидерами правительства в пятницу, чтобы изложить «ужасающий» сценарий.

Этот вопрос впервые был затронут во время лекций Хинтона, организованных Фондом безопасности ИИ в Торонто, где эксперты заявили, что ИИ может также превзойти правительства в течение следующих шести-восемнадцати месяцев.

Пол Кристиано из исследовательского центра Alignment Research Centre, изучающего развитие искусственного интеллекта, предупредил аудиторию, что «многие люди погибнут», когда ИИ возьмет управление в свои руки.

«Я думаю, что существует высокий риск поглощения со стороны компаний, использующих искусственный интеллект, в течение следующих трех лет, и существенный риск даже в ближайшие шесть-двенадцать месяцев», — сказал он.

«Даже если мы там не погибнем, захват власти — это своего рода конец человеческого суверенитета и самоопределения, и мы должны приложить невероятные усилия, чтобы этого избежать».

«Я думаю, что для большинства людей в этом зале наиболее вероятной причиной смерти станет сбой в работе искусственного интеллекта».

Профессор Хинтон, который неофициально консультирует правительство Великобритании по вопросам ИИ, неоднократно предупреждал об опасностях, но сказал, что не осознавал, насколько тревожными оказались временные рамки.

«Я постоянно говорю, что эти существа станут умнее нас, и нам действительно нужно беспокоиться, и это может произойти в течение 10 лет, но я хожу на лекции Пола, и он говорит, что это может произойти в ближайшие 18 месяцев, и это ужасно», — сказал он. «Поэтому я собираюсь сказать об этом группе правительственных лидеров в пятницу».

«Происходящее крайне опасно. Люди ещё не до конца осознали, что значит иметь дело со сверхъинтеллектуальным ИИ. Если он сверхъинтеллектуален, то управлять им будете не вы, а он будет управлять вами».

____
https://www.yahoo.com/news/science/articles/godfather-ai-warn-ministers-could-175501587.html

Эта запись была опубликована в рубрике Без рубрики . Добавьте в закладки постоянную ссылку .