Если вы ищете лёгкое чтиво на выходные, то это не тот вариант.
- Но разговоры о будущем здравоохранения подразумевают и разговоры о рисках, сопровождающих достижения в области биотехнологий.
- Ответьте, поделившись своими мыслями.
Сегодняшний выпуск информационного бюллетеня содержит 1346 слов, на чтение уйдет 5 минут.
Один важный момент: сближение рисков.
Что объединяет достижения в области искусственного интеллекта, биологические прорывы, преобладание исследований с высоким риском и высокой отдачей, эскалацию геополитической напряженности и ослабленный сектор здравоохранения США?
- Все это повышает риск того, что однажды, случайно или преднамеренно, появится смертельно опасный патоген, созданный человеком, и мы не будем к этому готовы.
Почему это важно: Те же самые достижения, которые делают этот момент поворотным для медицинских инноваций, усиливают риск катастрофических лабораторных аварий, хотя степень этого риска является предметом жарких споров среди экспертов.
- «Это всего лишь небольшая корректировка по сравнению с попыткой целенаправленно бороться с болезнью и созданием генной терапии для борьбы с ней, превращая вирус в нечто, что может быть гораздо более опасным», — сказал Ашиш Джа, координатор мер реагирования администрации Байдена на COVID-19.
- С тех пор он основал компанию, целью которой является выявление новых биологических угроз.
В целом, ситуация выглядит весьма мрачно. Злоумышленник может использовать биологическое оружие, созданное с помощью искусственного интеллекта, чтобы вызвать массовые жертвы по всему миру.
- Крупнейшие мировые компании, занимающиеся разработкой искусственного интеллекта, сами указали на этот риск и призвали к усилению мер предосторожности .
Однако, как сказал мне Джа, масштабы того, насколько мир стал опаснее после пандемии, возможно, недооцениваются.
- «Больше всего меня беспокоит не решение государства применить биологическое оружие. Больше всего меня беспокоит случайный выброс вещества в результате целенаправленной программы», — сказал он мне.
- И, по сути, научные достижения, возможно, лишь повысили вероятность утечки из лабораторий, несмотря на резкое политическое противодействие исследованиям, направленным на «усиление функций».
- «Независимо от науки, искусственного интеллекта и всего прочего, количество лабораторий, занимающихся подобными исследованиями, увеличилось, а не уменьшилось», — сказал мне один бывший высокопоставленный чиновник Министерства здравоохранения и социальных служб при администрации Трампа.
- По словам бывшего чиновника, развитие ИИ «позволяет людям с ограниченным опытом ориентироваться в различных ситуациях или проводить эксперименты с большей вероятностью успеха».
Главные новости: Новости прошлой недели о том, что исследователи из Стэнфорда использовали ИИ для создания новых синтетических вирусов с нуля, усилили опасения, что злоумышленники по всему миру могут пытаться провернуть аналогичные трюки с более сложными организмами.
- Было обнаружено, что новые вирусы способны инфицировать и уничтожать микроб E. coli — это медицинский прорыв с огромным потенциалом.
- Однако недавние сообщения выявили случаи, когда чат-боты использовались для того, чтобы рассказывать пользователям, как создавать смертоносное биологическое оружие.
Реальность такова: создание биологических препаратов с использованием ИИ по-прежнему требует огромного объема ручной лабораторной работы, что является препятствием для любых планов по разработке оружия.
- «Искусственный интеллект не сможет обойти тот факт, что некоторые элементы требуют физической проверки», — сказал Дэвид Манхайм, основатель Ассоциации за долгосрочное существование и устойчивость. «Надеюсь, физические лаборатории не захотят позволить системам ИИ делать произвольные вещи, которые никто не понимает».
- Создание вируса, поражающего бактерии, все еще находится на значительном расстоянии от создания вируса, поражающего человека.
Да, но: ИИ постоянно развивается, а сенсационная новость прошлой недели впервые была опубликована в препринте почти год назад, так что кто знает, какие достижения в области синтетической биологии были сделаны с тех пор.
- Хотя Джа согласен с тем, что существует множество препятствий на пути создания биологического оружия, он говорит, что его вопрос звучит так: «Учитывая количество людей, работающих над этими вопросами, каковы шансы, что никому не удастся добиться успеха в ближайшие пять лет?»
Текущая ситуация: «Китай, Северная Корея и Россия, вероятно, обладают знаниями и возможностями для производства и применения традиционных биологических патогенов и токсинов, и исторически занимались разработкой... патогенов, вызывающих высокоинфекционные или заразные заболевания», — говорится в ежегодной оценке угроз, проведенной разведывательным сообществом США в этом году.
- В докладе также отмечается, что достижения в таких областях, как нанотехнологии и редактирование генома, «могут привести к появлению новых биологических угроз или повысить вероятность возникновения проблем с биологической безопасностью, приводящих к непреднамеренному высвобождению патогенов».
С другой стороны: ИИ также можно использовать для усиления биологической защиты, и в прошлом месяце Google DeepMind анонсировала собственную программу повышения биоустойчивости, направленную на предотвращение, обнаружение и реагирование на биологические угрозы.
- «Хорошая новость в том, что искусственный интеллект, передовые биологические технологии и биотехнологии дают нам сегодня больше шансов, чем в 2020 году, отреагировать на пандемию», — сказал мне бывший высокопоставленный чиновник Министерства здравоохранения и социальных служб США.
2. Различные виды катастроф
В ходе моих бесед с экспертами был рассмотрен ряд основных сценариев, имеющих глобальную перспективу:
1. Злоумышленники используют ИИ для создания новых патогенов и намеренно распространяют их.
- Хорошая новость: круг людей или групп, способных на это, очень и очень мал. Кроме того, биологическое оружие всегда было очень непопулярно и редко применялось.
2. Злоумышленники , ранее неспособные создавать биологическое оружие, используют ИИ для модификации известных патогенов (например, сибирской язвы или оспы) и преднамеренно выпускают их в окружающую среду.
- Хорошая новость: по крайней мере, в передовых моделях ИИ предусмотрены механизмы защиты, которые не позволят им отвечать на подобные вопросы. Если же это всё-таки произойдёт, превращение этих инструкций в биологическое оружие всё равно потребует лабораторных работ и определённого уровня квалификации.
3. Злоумышленники случайно применяют разрабатываемое ими биологическое оружие.
4. Обычные ученые, проводящие исследования с высоким риском без надлежащих протоколов безопасности и случайно выпускающие патогены.
- «Людям не следует играть с вещами, которые, если они совершат ошибку, могут убить миллионы людей», — сказал мне Манхайм.
Что нас интересует: Достижения в области редактирования генов создали более тревожные сценарии, включая появление в будущем более целенаправленного биологического оружия.
- «Меня очень беспокоят модифицированные виды оружия, — сказал мне Джа. — Можно начать создавать высокоцелевые образцы. Доступно ли это сегодня? Нет. Думаю ли я, что это станет доступно в ближайшие пять-десять лет? Безусловно».
- Однако другие эксперты заявили, что до появления такой возможности еще очень далеко, если она вообще когда-либо появится.
3. Время на подготовку
Существуют большие разногласия по поводу того, насколько мы сегодня подвержены риску, но каждый эксперт, с которым я беседовал, подчеркивал важность заблаговременного наращивания оборонительных возможностей — и то, насколько неподготовлены к этому США.
Текущая ситуация: Политики по-прежнему вовлечены в ожесточенные партийные баталии по поводу происхождения COVID-19 и мер реагирования на него — плохой знак для всех, кто надеется, что извлеченные уроки можно будет применить к новой угрозе, созданной человеком.
- Вторая администрация Трампа также провела масштабную реорганизацию значительной части федеральной системы здравоохранения, включая подразделения, занимающиеся инфекционными заболеваниями и исследованиями вакцин нового поколения .
- После почти года отсутствия постоянного политического руководителя Центр по контролю и профилактике заболеваний (CDC) наконец-то получил своего нового, а у Администрации по стратегической готовности и реагированию до сих пор нет главы, хотя в Сенате рассматривается кандидатура на эту должность.
Да, но: администрация ужесточила контроль за исследованиями, направленными на усиление функций генов, что является спорным шагом среди ученых, но призвано снизить биологические риски.
Вот что они говорят: «Это риск, с которым мы живем сегодня, будь то биологическое оружие или случайный выброс в результате исследований по усилению функций», — сказал мне бывший высокопоставленный чиновник Министерства здравоохранения и социальных служб США.
- «Поэтому мы сами себе вредим, если недооцениваем риск или важность продуманной подготовки к этому».
Между строк: Реакция на недавние вспышки инфекционных заболеваний и пищевых отравлений не внушает оптимизма.
Другая сторона медали: Министерство здравоохранения и социальных служб США заявило в своем заявлении, что США «по-прежнему полностью готовы реагировать на возникающие угрозы общественному здоровью» и защищать население, сославшись на свои действия в ответ на вспышку хантавируса на круизных лайнерах и чрезвычайную ситуацию в области здравоохранения, связанную с лихорадкой Эбола в Африке.
В итоге, "мы довольно уязвимы перед биологическими угрозами в целом, независимо от того, участвовал ли ИИ в их создании и разработке", - сказала Стеф Баталис, научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета.
- В случае вспышки кори, "искусственный интеллект не был причастен, не был преднамеренным или умышленным, и мы продемонстрировали множество проблем в реагировании на эту вспышку", - добавила она.
- «Если мы не можем справиться даже с корью, это уже очень большая проблема».
Спасибо за чтение Axios Vitals, а также редактору Дэвиду Натеру и корректору Мэтту Пайперу. Пожалуйста, попросите своих друзей и коллег подписаться на рассылку .
Комментариев нет:
Отправить комментарий