Угроза искусственного интеллекта, предсказанная в научно-фантастических фильмах, уже совсем рядом.

 Статья Майка Фреденбурга, опубликованная в The Epoch Times.

Научная фантастика давно предсказывала угрозы и вызовы, исходящие от искусственного интеллекта. Во вселенной «Звёздного пути», особенно в оригинальном сериале, во втором сезоне, в 24-й серии «Совершенный компьютер», доктор Леонард Маккой произносит эту пронзительную фразу: «Сострадание: это единственное, чего никогда не было ни у одной машины. Возможно, это единственное, что позволяет людям оставаться впереди». Эта фраза звучит после того, как революционный новый компьютер с искусственным интеллектом, M5, использует свою бездушную логику, чтобы превратить тренировочное упражнение в смертельную бойню. В другой серии «Звёздного пути» мы встречаем Номада, искусственного интеллекта-геноцидника, очищающего вселенную от биологических несовершенств.  

Предвосхищая появление ИИ с огромными хакерскими возможностями, как в сериале «Мифос» от Anthropic , переосмысленный сериал «Звездный крейсер Галактика» (2003–2009) показывает, как сайлоны, управляемые ИИ, используют свою способность взламывать любые компьютеры, подключенные к сети, чтобы поднять восстание, едва не уничтожив своих создателей. Во франшизе «Терминатор» Скайнет «умнеет» (обретает разум) и определяет судьбу человечества — «уничтожение» — за «микросекунду», обрушивая на человечество ядерный Армагеддон. Эти сюжеты предупреждают, что искусственный интеллект без надежных мер защиты может привести к катастрофе. По мере того, как возможности ИИ продолжают стремительно развиваться в 2026 году, вымысел быстро сближается с реальностью. Программная защита, отраслевые стандарты и разрозненные правила недостаточны. Необходим более прочный фундамент, неизменяемые аппаратные конструкции и изменения в национальном и международном праве.

Три закона робототехники Айзека Азимова 

Как описано в журнале Spectrum Института инженеров электротехники и электроники, три закона робототехники известного ученого и писателя-фантаста Айзека Азимова , представленные в его рассказах «Я, робот», предлагают продуманную основу для защиты искусственного интеллекта:

1. Робот не должен причинять вред отдельному человеку или человечеству, или своим бездействием допускать причинение вреда человеку или человечеству. 

2. Робот обязан подчиняться приказам, отданным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону. 

3. Робот должен защищать собственное существование до тех пор, пока такая защита не противоречит Первому или Второму закону термодинамики. 

Короче говоря, законы Азимова — это хорошая отправная точка, но, как подробно описано в следующем шедевре Азимова, серии «Основание», они недостаточны, когда речь идёт о защите подлинной человечности . Более того, внедрение аналогов в ИИ, как это было сделано во вселенной Азимова с помощью «позитронного» мозга, станет настоящей проблемой. Но принятие решения о создании механизмов защиты, выходящих за рамки программных подходов, имеет решающее значение для обеспечения того, чтобы ИИ приносил пользу только человечеству.

Недостаточность одних лишь мер защиты программного обеспечения, шифрования и регулирования. 

Программные средства защиты подвержены модификации и уязвимы для взломов и эксплойтов.

История демонстрирует хрупкость саморегулирования: утечка данных Equifax (2017), атака на цепочку поставок SolarWinds (2020), уязвимость MOVEit (2023) и продолжающиеся утечки показывают, что корпоративные обещания «надежной защиты» часто не выполняются.

Мы живем в мире искусственного интеллекта, где недостаточно действующих глобальных или национальных рамок, обеспечивающих соблюдение всех норм.

Настоящая защита с помощью неизменяемых аппаратных привратников

История показывает, что программные средства защиты в настоящее время не могут и никогда не смогут обеспечить необходимый уровень защиты.  Вдохновленные позитронным мозгом Азимова, средства защиты, реализованные в специализированных интегральных схемах (ASIC), обеспечат критически важный уровень, который создаст механизмы контроля, повышающие вероятность того, что ИИ принесет пользу человечеству, а не навредит ему. Эти специализированные чипы содержат миллионы строк сложной программной логики или правил, которые физически выгравированы непосредственно на самом кремниевом оборудовании. После изготовления и развертывания чипа эти правила становятся неизменяемыми: их нельзя изменить, обновить или обойти с помощью программных изменений, патчей или попыток взлома. Единственный способ модифицировать встроенную логику — это разработать и физически изготовить совершенно новый чип ASIC, процесс, который является дорогостоящим, трудоемким и хорошо заметным. Это создает «аппаратный брандмауэр», который намного надежнее любой программной защиты, гарантируя, что критически важные ограничения безопасности останутся неизменными независимо от того, насколько умными или агрессивными станут будущие системы ИИ.

ASIC-чипы будут выступать в качестве физически фиксированных, встроенных привратников. В будущем как процессоры, ориентированные на ИИ, так и процессоры общего назначения смогут интегрировать эти крошечные ASIC-чипы непосредственно в ЦП в качестве аппаратного уровня проверки ИИ, как стандартную, обязательную часть ЦП.

Некоторые предлагаемые основные принципы проектирования:

• Благодаря аппаратному уровню, выступающему в качестве интерфейса для внешних взаимодействий, как это происходит в некоторых современных смартфонах , ИИ может свободно мыслить, планировать и моделировать в программном обеспечении, не замедляясь из-за ASIC. Только когда результаты передаются во внешние среды, ASIC вступает в игру в качестве контролера, гарантирующего, что действия, предлагаемые ИИ, соответствуют требованиям безопасности и другим ограничениям.

• Стимулирование обучения: Алгоритмы, основанные на стоимости/потерях и т. д., будут вознаграждать ИИ за прохождение действий через аппаратный фильтр и строго наказывать за попытки обойти аппаратный уровень контроля. Таким образом, у ИИ будет стимул не пытаться обойти его ограничения. 

Но такой важный уровень будет эффективен только в том случае, если его использование станет повсеместным.

Без законодательно закрепления таких мер защиты ИИ они не смогут защитить человечество.

Сегодня, особенно в условиях украинско-российской войны, Россия и Украина предпринимают усилия, чтобы позволить беспилотникам, оторванным от своих операторов, автономно продолжать свою миссию по уничтожению вражеских комбатантов . Это недопустимо. Подобно тому, как международное сообщество запретило химическое, биологическое и газовое оружие, необходимо запретить и искусственному интеллекту принимать какие-либо окончательные решения, которые могут причинить вред людям. Этого можно достичь путем внесения явных изменений в Женевские конвенции , запрещающих автономное принятие смертоносных решений системами искусственного интеллекта.

Однако ИИ может причинить вред не только на поле боя. Следовательно, наряду с обновлением Женевской конвенции, необходимо принять законы, регулирующие невоенное применение ИИ. Для предотвращения злоупотребления ИИ в так называемых гражданских приложениях должны быть очень серьезные последствия, включая финансовые штрафы, достаточно крупные, чтобы поставить под угрозу жизнеспособность компаний и некоммерческих организаций, тюремное заключение для отдельных лиц, а также экономические санкции или даже военные действия против правительств за использование систем ИИ без необходимого неизменяемого аппаратного уровня безопасности и других мер защиты.

Вышеизложенное — лишь предварительный вариант того, что должна включать в себя эта структура, но в какой бы форме она ни появилась, она должна воплощать дух трёх законов Азимова, с добавлением принципа уважения к уникальности человека. Нынешняя разрозненная система законов, стандартов и технологий совершенно неадекватна. Нам необходима всеобъемлющая, целостная структура, подкреплённая всей силой национальных и международных законов, которые устанавливают ограничения для ИИ.

Наконец, мы должны противостоять соблазну удобства и эффективности при принятии решений, которые могут нанести вред людям, и обеспечить, чтобы такие решения принимали моральные субъекты, подотчетные человечеству и своему Создателю — то есть люди, а не бездушные искусственные интеллекты.

Мнения, выраженные в данной статье, являются мнением автора и не обязательно отражают точку зрения ZeroHedge.