Проект DARPA «ECHO»: компьютерная система, которая объявляет вас биологической угрозой — без каких-либо физических доказательств.

 Автор статьи — Джон Флитвуд, сайт JonFleetwood.com .

В 2018 году Агентство перспективных оборонных исследований (DARPA) предложило создать портативную компьютерную систему, предположительно способную определять, подвергался ли человек воздействию биологических или химических угроз , включая оружие массового уничтожения (ОМУ) и его прекурсоры.

Даже при отсутствии вещественных доказательств.

DARPA изложила предложение в рамках конкурсного объявления HR001118S0023 о программе, известной как ECHO (Epigenetic CHaracterization and Observation).

DARPA предложила достичь этого путем сравнения предполагаемых изменений в собственной биологии человека с созданной правительством справочной библиотекой и алгоритмического определения как предполагаемой угрозы, так и времени предполагаемого воздействия.

В контексте более широкого портфеля исследований DARPA в эпоху пандемий, это предложение также поднимает более важный вопрос, исследованный в разделе « Теория in silico» данного издания : по мере того, как правительства все чаще заменяют прямое наблюдение вычислительными моделями, справочными библиотеками и алгоритмическими определениями, где заканчиваются объективные доказательства и начинаются выводы, сгенерированные компьютером?

Это также поднимает насущный практический вопрос.

Если алгоритм, работающий с контролируемой государством справочной библиотекой, определяет, что кто-то подвергся воздействию опасной биологической или химической угрозы, без каких-либо вещественных доказательств, то какой существует действенный механизм для независимой проверки — или успешного оспаривания — этого определения?

Результаты поиска на сайте SAM.gov, связанные с конкурсным отбором DARPA HR001118S0023, указывают на получение контрактов на сумму не менее 53,8 миллионов долларов, включая контракт на 49,2 миллиона долларов, присужденный Медицинской школе Икана при больнице Маунт-Синай, и контракт на 4,5 миллиона долларов, присужденный Университету штата Аризона.

Основные возможности

Вместо поиска самого биологического или химического агента, ECHO предложила «идентифицировать» предполагаемые долговременные биологические следы, остающиеся после воздействия.

DARPA описала цель:

"Использовать эпигеном человека для выявления истории его воздействия на оружие массового уничтожения (ОМУ) и его предшественники."

В объявлении о конкурсе объясняется, почему DARPA считала это возможным:

«Эпигеном сохраняется и обнаруживается даже после удаления физических доказательств».

Пожалуй, это предложение является центральным элементом всей программы.

Предложенная система была разработана для продолжения получения данных об определении воздействия даже после того, как исходный биологический или химический материал перестал быть доступным для непосредственного исследования.

Эпигенетика — это наука об изучении предполагаемых химических модификаций ДНК, которые, по мнению исследователей, могут изменяться в ответ на биологические и экологические воздействия, не изменяя при этом генетический код человека.

Созданная правительством библиотека материалов по теме

Для достижения этой цели DARPA поручило исполнителям создать так называемую панель эпигенетических сигнатур ECHO (ESP) — централизованную библиотеку, содержащую предполагаемые эпигенетические сигнатуры, связанные с конкретными воздействиями.

Подрядчики должны были получить подписи как минимум по 21 варианту воздействия, включая обязательные биологические угрозы, а также дополнительные химические, радиологические, взрывчатые и связанные с ними материалы.

Затем будущие неизвестные образцы будут сравниваться с этой постоянно пополняющейся эталонной панелью.

DARPA объяснила этот процесс:

«Разработанные алгоритмы должны будут сравнивать неизвестный уровень воздействия с данными ESP, чтобы определить конкретный уровень воздействия и время воздействия на человека».

Иными словами, предлагаемая система не будет просто измерять биологические показатели.

Система будет сравнивать биологические данные человека с созданной правительством справочной библиотекой и выдавать заключение относительно характера и времени предполагаемого воздействия.

Решение принимает компьютер.

В условиях тендера предполагался практически полностью автоматизированный процесс.

Требуется DARPA:

«Вмешательство человека в процесс отбора пробы и получения результатов, касающихся воздействия и сроков, не предусмотрено».

Вставьте образец.

Запустите алгоритмы.

Примите решение.

Данный специалист не будет заниматься интерпретацией исходных лабораторных данных.

Сама система выдаст этот вывод.

Когда человек становится доказательством

Традиционные судебно-медицинские исследования часто основываются на извлечении самого биологического или химического агента.

ECHO предложила другой подход.

Согласно условиям тендера, система должна была продолжать выявлять случаи воздействия даже после удаления физических доказательств, полагаясь вместо этого на компьютерное сравнение с сохраненными биологическими сигнатурами.

Эта архитектура поднимает очевидный вопрос.

Если исходный биологический или химический материал больше не существует, и определение получено с помощью алгоритма, сравнивающего биологические данные человека с данными из государственной справочной библиотеки, как обычный человек сможет самостоятельно проверить — или осмысленно оспорить — этот вывод?

Может ли эта система быть использована в качестве оружия или в мошеннических целях?

Сам документ не даёт ответа на этот вопрос.

Вместо этого, основное внимание уделяется повышению скорости, автоматизации и надежности вычислительного определения.

DARPA предвидела попытки обойти систему.

Одна небольшая строчка, спрятанная в самом объявлении, особенно показательна.

В числе категорий, требующих особого обращения, DARPA перечислило:

«Возможная процедура обхода идентификации с помощью панели ECHO Signature Panel».

Агентство интересовалось не просто созданием сигнатур воздействия.

Уже тогда рассматривались способы обхода этих подписей — и построенной на их основе системы идентификации.

Итог

Значительная часть дискуссий вокруг ECHO посвящена эпигенетике.

Это может привести к искажению реального содержания предложения.

По сути, ECHO описывала созданную правительством вычислительную систему, предназначенную для определения того, подвергался ли человек воздействию определенных биологических или химических угроз, путем сравнения данных о его биологическом состоянии с централизованной библиотекой сигнатур — даже после того, как основные физические доказательства исчезли.

Вопрос о том, сможет ли такая система функционировать должным образом, является отдельным научным вопросом.

Более насущный журналистский вопрос заключается в том, что произойдет, если подобные алгоритмические решения будут использоваться в военных, разведывательных, медицинских или юридических целях.

Когда отсутствуют вещественные доказательства, а вывод основан на запатентованной справочной библиотеке и сравнении алгоритмов, какие существуют пути для независимой проверки или осмысленного оспаривания?

Что происходит с человеком после того, как алгоритм определяет, что он подвергся воздействию?

А если эти алгоритмические определения когда-либо будут использованы для оправдания карантина, уголовного расследования, военных действий, решений о трудоустройстве, ограничений на поездки или других действий правительства, какая защита будет предоставлена ​​человеку, которого компьютер уже объявил уязвимым?

Следите за Джоном Флитвудом в Instagram и X , а также подписывайтесь на JonFleetwood.com . (Источник: Modernity.news)