Илон Маск, одно из самых обсуждаемых имен в мире технологий, предупреждает нас о необходимости проявлять осторожность с искусственным интеллектом (ИИ), поскольку он может призвать «демона».
Маск выразил эти опасения в недавнем интервью на симпозиуме, посвященном столетию AeroAstro, и назвал искусственный интеллект самой большой экзистенциальной угрозой для человечества.
ОБНОВЛЕНИЕ: Неужели люди призвали демона-искусственный интеллект?
«С помощью искусственного интеллекта мы призываем демона. Во всех этих историях, где есть парень с пентаграммой и святой водой, он вроде как уверен, что может контролировать демона. Но это не срабатывает», — говорит Маск.
Однако он не единственный лидер, придерживающийся столь зловещего взгляда на будущее. Шейн Легг, специалист по информатике и соучредитель DeepMind , также называет ИИ главной экзистенциальной угрозой столетия (на втором месте — искусственно созданный биологический патоген).
«В конечном итоге, я думаю, человечество, вероятно, вымрет, и технологии, скорее всего, сыграют в этом свою роль», — добавляет он в интервью профессору Маркусу Хаттеру .
Компания Легга, DeepMind, занимается разработкой искусственного интеллекта и была приобретена Google в 2011 году. После приобретения Google создала этический совет для решения некоторых проблем, связанных с этой технологией (например, демоны, экзистенциальный кризис и т. д.).
Однако частного этического совета одной компании может быть недостаточно для того, чтобы держать искусственный интеллект под контролем. Маск говорит : «Я все больше склоняюсь к мысли, что необходим какой-то регулирующий надзор, возможно, на национальном и международном уровнях, просто чтобы убедиться, что мы не совершим чего-нибудь очень глупого».
Читайте: Интернет вещей, робототехника и конец света.
Хотя государственное регулирование всегда является спорной темой, нельзя отрицать, что некоторые из самых выдающихся умов уже выражают искреннюю обеспокоенность по поводу будущего.
Маск также неоднократно делился своими размышлениями в Твиттере, заявляя: «Надеюсь, мы не просто биологический загрузчик для цифрового сверхинтеллекта. К сожалению, это становится все более вероятным».
На следующий день Маск продолжил: «Стоит прочитать книгу Бострома «Сверхразум ». Нам нужно быть предельно осторожными с ИИ. Потенциально он опаснее ядерного оружия».
И хотя это может быть преувеличением Маска (к чему он, безусловно, склонен), эти угрозы заслуживают нашего внимания. Ведь, как объяснил Легг в 2011 году , к тому времени, когда широкая общественность начнет беспокоиться по этим вопросам, может быть уже слишком поздно.
Что вы думаете? Является ли ИИ самой большой экзистенциальной угрозой для человечества? Призовем ли мы дьявола? Оставьте свой комментарий ниже или свяжитесь со мной в Твиттере @melfass .
Комментариев нет:
Отправить комментарий