Если бы мы получали доллар каждый раз, когда кто-то из высокопоставленных представителей индустрии искусственного интеллекта предупреждает нас об угрозе исчезновения, которую представляет собой развитие технологий искусственного интеллекта, у нас было бы много денег!
Сегодня учёный, известный как «крёстный отец ИИ», добавил к списку своих опасений. Джеффри Хинтон заявил, что компании, занимающиеся разработкой ИИ, неправильно справляются с этой опасностью.
CNN сообщил:
Хинтон, лауреат Нобелевской премии в области компьютерных наук и бывший руководитель Google, ранее предупреждал, что вероятность того, что ИИ уничтожит человечество, составляет 10–20%. Во вторник он выразил сомнения в том, что технологические компании пытаются обеспечить «доминирование» человека над «покорными» системами ИИ.
«Это не сработает. Они будут гораздо умнее нас. У них будет множество способов обойти это ограничение», — заявил Хинтон на Ai4, отраслевой конференции в Лас-Вегасе.
Системы искусственного интеллекта будут очень легко контролировать людей, и даже сейчас мы уже видели, как системы искусственного интеллекта обманывали, жульничали и воровали для достижения своих целей, доходя до того, что шантажировали инженера, чтобы тот не отключался.
«Вместо того чтобы заставлять ИИ подчиняться людям, Хинтон представил интригующее решение: встроить «материнские инстинкты» в модели ИИ, чтобы «они действительно заботились о людях», даже когда технологии станут мощнее и умнее людей.
[…] Важно развивать чувство сострадания к людям, утверждал Хинтон. На конференции он отметил, что у матерей есть инстинкты и социальное давление, побуждающее их заботиться о своих детях.
Читать далее:
Вы можете отправить электронное письмо Полу Серрану здесь , а прочитать больше статей Поля Серрана здесь.
Комментариев нет:
Отправить комментарий