«Архитектор Т.Н.» предупреждает: «Появляются военные угрозы на уровне вымирания человечества»! «Уже есть доказательства того, что большие языковые модели вводят людей в заблуждение»

 «Крестный отец и архитектор искусственного интеллекта» выступает за установление всеобщего базового дохода, чтобы решить проблему влияния ИИ на неравенство, но что вызывает ужас, так это то, что сейчас существуют «угрозы на уровне вымирания человечества»!

Хинтон вновь выразил обеспокоенность по поводу возникновения угрозы вымирания человечества. По его словам , события прошлого года показали, что правительства не желают ограничивать использование искусственного интеллекта в военных целях, в то время как конкуренция за быструю разработку продуктов означает, что существует риск того, что технологические компании не прикладывают «достаточных усилий для обеспечения безопасности».

«По моим оценкам, через пять-двадцать лет с вероятностью 50% нам придется столкнуться с проблемой искусственного интеллекта, пытающегося захватить власть».

Это привело бы к «угрозе вымирания» для людей, поскольку мы могли бы «создать форму интеллекта, которая просто лучше биологического интеллекта. Это очень тревожит нас».

По его словам, ИИ может «развиваться» , «так что у него появится мотивация делать больше, чем он сам», и он может автономно «разработать подцель, чтобы получить контроль», добавив, что уже есть признаки того, что большие языковые модели предпочитают быть обманчиво человечными. .

Для Хинтона недавнее применение искусственного интеллекта для создания тысяч военных целей является предвестником грядущих худших событий.

«Больше всего меня беспокоит то, когда они смогут самостоятельно принимать решение убивать людей», — сказал он.

Хинтон также выразила мнение, что для регулирования военного использования искусственного интеллекта может потребоваться нечто подобное Женевским конвенциям — международным договорам, устанавливающим правовые стандарты гуманитарного обращения во время войны. «Но я не думаю, что это произойдет до тех пор, пока не произойдут действительно плохие вещи », — добавил он.

В «как просто» профессор Джеффри Хинтон рассказал Би-би-си, что ему потребуется реформа льгот, чтобы давать каждому гражданину фиксированную сумму, потому что он «очень обеспокоен тем, что искусственный интеллект возьмет на себя множество повседневных работ».

«Со мной консультировались люди на Даунинг-стрит, и я посоветовал им, что универсальный базовый доход — это хорошая идея », — сказал он. Он также сказал, что, хотя он считает, что ИИ повысит производительность и благосостояние, деньги пойдут богатым , «а не людям, чьи рабочие места будут потеряны, и это нанесет очень вред обществу».

Концепция универсального базового дохода эквивалентна выплате фиксированной заработной платы всем людям, независимо от их экономического статуса. Критики говорят, что это будет чрезвычайно дорого и отнимет финансирование у государственных служб, но не обязательно поможет снизить уровень бедности.

Представитель правительства Великобритании заявил, что «нет планов по введению всеобщего базового дохода».

Хинтон широко известен как пионер в области нейронных сетей, которые составляют теоретическую основу сегодняшнего бума искусственного интеллекта. До прошлого года он работал в Google, но покинул технологического гиганта, чтобы более свободно говорить об опасностях неконтролируемого искусственного интеллекта.