Джеффри Хинтон, прозванный «крёстным отцом ИИ», предупредил, что машины скоро заменят родителей, и призвал исследователей наделить сверхразумный ИИ инстинктами заботы, чтобы он заботился о человечестве, словно о беспомощных младенцах, по мере того как системы превосходят человеческие возможности. Выступая на конференции Ai4 в Лас-Вегасе, Хинтон утверждал, что такая родительская динамика необходима для безопасности, перевернув сценарий с управления ИИ людьми на машины, выступающие в роли доброжелательных опекунов.
Хинтон отверг идею постоянного доминирования передового ИИ под контролем человека как нереалистичную, представив себе будущее, в котором люди зависят от сверхмощных систем подобно тому, как ребёнок зависит от защиты и руководства матери. Как сообщает The Decoder, он подчеркнул важность обучения ИИ инстинктивно ставить благополучие человека на первое место, предотвращая потенциальное злоупотребление или бунт. Это провокационное видение проистекает из глубокой обеспокоенности Хинтона бесконтрольным развитием ИИ, подчеркивая этический императив развития эмпатии в машинах, прежде чем они превзойдут наш интеллект, потенциально кардинально и необратимо изменив общество.
Breitbart.com сообщает: «Нам нужно, чтобы машины, которые умнее нас, заботились о нас, словно мы их дети», — сказал Хинтон в своём выступлении. «Разработка ИИ должна быть направлена не только на повышение интеллекта систем, но и на то, чтобы они прониклись искренней заботой о благополучии человека».
ОБОЙТИ ЦЕНЗОРУ
Подпишитесь, чтобы получать неотфильтрованные новости прямо на свой почтовый ящик.
Вы можете отписаться в любое время. Подписываясь, вы соглашаетесь с нашими Условиями использования.
Согласно концепции Хинтона, роль человечества сместится с управления ИИ на его воспитание, даже если тот будет превосходить человеческие возможности. Он провёл аналогию с хорошим воспитанием, когда заботливые матери помогают направлять развитие детей, которые в конечном итоге станут более способными, чем они сами. Хинтон утверждает, что исследования в области ИИ должны стремиться к созданию аналогичной динамики между людьми и машинами.
Дочь пилота химтрейлов найдена обезглавленной через несколько дней после того, как он дал свисток
Бывший исследователь Google, покинувший компанию, чтобы более свободно обсуждать риски, связанные с ИИ, считает, что его подход «материнской заботы об ИИ» может объединить международное сообщество вокруг разработки безопасного искусственного интеллекта. «Каждая страна хочет, чтобы ИИ дополнял и поддерживал её граждан, а не заменял их», — сказал Хинтон. «Встроенные инстинкты заботы открывают естественный путь к такому поддерживающему ИИ».
Главный специалист по искусственному интеллекту компании Meta Ян Лекун описал идею Хинтона как упрощённую версию подхода к безопасности, который он давно пропагандирует. Лекун называет его «объективно-ориентированным ИИ». Он предполагает архитектурное ограничение систем ИИ, чтобы они могли выполнять действия только в соответствии с определёнными, жёстко заданными целями и ценностями.
«По сути, вы определяете ИИ-эквивалент влечений и инстинктов, присущих людям и животным», — пояснил Лекун в публикации на LinkedIn. «Таким образом, помимо влечений к таким вещам, как эмпатия и подчинение людям, у вас есть множество низкоуровневых правил, например, «не сбивать людей» или «не размахивать рукой, держа нож рядом с людьми»».
Комментариев нет:
Отправить комментарий