Границы, которые, как мы думали, машины не переступят.

 Автор: Джордж Форд Смит, издательство: Институт Мизеса .

В 2000 году мир готовился к проблеме 2000 года. Была названа дата и предложен способ её решения. Царила паника по поводу конца света, но, несмотря на отдельные сбои, мы с другими программистами увеличили поле для указания года с двух до четырёх символов, и всё работало как часы. Всё о проблеме 2000 года было известно — проблема, решение и крайний срок.

Q-Day — это совсем другое.

День Q — это сокращенное обозначение момента, когда квантовые вычисления переступают черту, которую мы считали нерушимой, — когда математические основы современной жизни могут быть взломаны, и взломаны быстро. В День Q замки будут взломаны тихо и быстро. И самое тревожное заключается в том, что вор, возможно, уже завладел вашим сейфом, ожидая того дня, когда комбинация станет тривиальной для вычисления.

Современное шифрование — это замок, на взлом которого обычному компьютеру с нулями и единицами потребовалось бы больше времени, чем возраст Вселенной — 26,7 миллиарда лет. Наиболее распространенная система — RSA с 2048-битным ключом — основана на практически невозможности разложить на множители «произведение двух очень больших простых чисел».

Однако достаточно развитый квантовый компьютер не стал бы перебирать все возможные комбинации . Он использовал бы принципиально иной метод — метод, открытый математиком из Массачусетского технологического института Питером Шором, — для эффективного решения этой проблемы. То, что сегодня невозможно, стало бы обыденным. Предположение о безопасности, принятое в мире, перестало бы быть верным.

Украденные сегодня данные — банковские выписки, корпоративные секреты, медицинские файлы, государственная переписка — могут храниться до тех пор, пока не станут читаемыми , что аналитики называют « сбором урожая сейчас, расшифровкой позже ». Это дает сегодняшним ворам спекулятивное право на завтрашние знания. Но, как и все спекулятивные права, их ценность зависит от времени, неопределенности и действий других лиц. Чем дольше задержка, тем выше вероятность того, что данные устареют, будут заменены или будут защищены другим способом или в другом месте.

Нет единого мнения о том, когда, вероятно, наступит «День Q» . « Google считает, что это может произойти к 2029 году , в то время как Ади Шамир — один из экспертов по криптографии, стоящих за разработкой шифрования RSA, — полагает, что это произойдет не раньше чем через 30 лет ».

Между тем, к нам приближается кое-что ещё :

Технологическая сингулярность, точка, в которой искусственный интеллект превзойдет человеческий интеллект и начнет самосовершенствоваться в непрерывном цикле, чаще всего предсказывается на период между 2035 и 2045 годами. Этот временной промежуток сокращается. Несколько лет назад большинство экспертов оценивали его на десятилетия вперед. Теперь же некоторые из самых авторитетных специалистов в области ИИ считают, что предшествующий этап, искусственный общий интеллект (AGI), может наступить до 2030 года.

Возможно, футурологи, склонные к теории сингулярности, упускают из виду технические препятствия в своих прогнозах , такие как неспособность интеллекта достичь прогнозируемых масштабов, но наступление Дня Q кажется довольно неизбежным. Это поднимает несколько тем, знакомых студентам австрийской школы экономики.

Во-первых, проблема знаний . Как подчеркивал Хайек, информация, необходимая для координации сложных систем, рассредоточена, носит качественный и часто неявный характер. Ни один централизованный планировщик не может знать, когда наступит «день вопросов» или какие системы наиболее уязвимы в режиме реального времени. Мандаты, предполагающие определенный график, рискуют привести к нерациональному распределению ресурсов. Напротив, децентрализованные участники — банки, фирмы, разработчики — могут реагировать на ценовые сигналы, стоимость страхования, конкуренцию поставщиков и развивающуюся информацию об угрозах.

Во-вторых, стимулы и временные предпочтения. Расходы на безопасность — это классический случай текущих затрат ради будущей выгоды. Выгода заключается в убытках, которых вы никогда не понесете. В мире квартальных отчетов и бесчисленных отвлекающих факторов возникает соблазн отложить решение. Однако природа «квартального дня» переворачивает расчеты: стоимость задержки накапливается, потому что период уязвимости длительный, а исправление ситуации происходит медленно. Системы не меняются за одну ночь. Необходимо менять ключи, обновлять протоколы, заменять оборудование, переобучать персонал. Необходимая здесь дисциплина — это именно то, на что указывает австрийский анализ: согласование стимулов таким образом, чтобы долгосрочное сохранение капитала не приносилось в жертву краткосрочной видимости.

В-третьих, структура капитала . Информационные системы — это капитальные товары с длительным сроком службы и сложными взаимозависимостями. Когда фирмы медлят, а затем спешат, инвестиции концентрируются под давлением — это ИТ-версия неэффективных инвестиций. Напротив, создание криптографической гибкости — способности заменять криптографические компоненты, не разрушая всю систему, — является формой грамотного планирования капитала. Это распределяет затраты во времени и снижает риск лихорадочной, чреватой ошибками спешки в дальнейшем.

В-четвертых, права собственности и доверие. В цифровой экономике шифрование — это не роскошь; это часть институциональной структуры, которая делает возможным обмен. Если подписи можно подделать, а личности — сфальсифицированы, претензии на право собственности — на счета, контракты, даже деньги — ослабевают. Невидимая инфраструктура доверия становится видимой именно тогда, когда она дает сбой. Q-Day, если с ним неправильно справиться, будет не просто технической неполадкой; он может превратить надежность самого обмена в катастрофу.

В-пятых, конкуренция. Если одно обязательное решение терпит неудачу, это приводит к сбою всей системы. Подход, основанный на принципах свободного рынка — множество реализаций, открытые стандарты, независимые аудиты, конкурирующие поставщики — уменьшает количество точек отказа и способствует более быстрому выявлению слабых мест.

Ещё один момент. Мы часто находим утешение в тех границах, которые, как нам кажется, машины не переступят, но иногда эти границы меняются. День Q — одно из таких движений. Он не предвещает конца конфиденциальности или краха коммерции, так же как проблема 2000 года не предвещала конца вычислительной техники. Но он заставляет нас столкнуться с истиной, которую австрийская школа политологии давно подчёркивает: сложные порядки сохраняются не потому, что они гарантированы, а потому, что они поддерживаются — за счёт стимулов, институтов и постоянной адаптации к меняющимся знаниям.

И пока у нас ещё есть способность действовать целенаправленно, сингулярность, если она произойдёт, будет представлять собой более высокий уровень человеческого интеллекта и человеческой жизни в целом. Мы не будем пассивно это принимать. Соображения соотношения затрат и выгод всегда будут иметь значение, как и наше моральное чувство того, что правильно. Как писал Рэй Курцвейл :

Поскольку ИИ развивается в рамках глубоко интегрированной экономической инфраструктуры, он будет отражать наши ценности, потому что в важном смысле он будет самим собой. Мы уже являемся цивилизацией, объединяющей человека и машину. В конечном счете, наиболее важный подход, который мы можем использовать для обеспечения безопасности ИИ, — это защита и совершенствование наших институтов управления и социальных институтов.

Как я уже утверждал ранее , наш институт управления человеческими ресурсами нуждается в радикальной перестройке.