Трамп подписал указ о «киберзащите» искусственного интеллекта.

 Статья Джейкоба Бурга, опубликованная в The Epoch Times .

От компаний, занимающихся искусственным интеллектом, потребуется добровольно представлять свои перспективные модели на рассмотрение перед их публичным выпуском.

2 июня президент Дональд Трамп подписал указ, направленный на противодействие киберугрозам, создаваемым технологиями искусственного интеллекта (ИИ) и новыми перспективными моделями, разрабатываемыми ведущими игроками отрасли.

Подписанный в закрытом режиме указ позволяет некоторым компаниям, занимающимся разработкой искусственного интеллекта, представлять свои передовые модели на добровольную государственную проверку за 30 дней до полного публичного выпуска.

Это подразумевает «предоставление федеральному правительству доступа к защищенным моделям передовых разработок при условии соблюдения надлежащих требований конфиденциальности, кибербезопасности, защиты от инсайдерских рисков и защиты интеллектуальной собственности, а также требований к использованию и неразглашению информации, на срок до 30 дней, прежде чем они планируют передать такие модели другим доверенным партнерам».

Указ также предоставляет Пентагону, Министерству внутренней безопасности, Агентству по кибербезопасности и защите инфраструктуры, Управлению по бюджету и управлению и другим соответствующим ведомствам 30 дней на то, чтобы «ускорить и расставить приоритеты в киберзащите гражданских информационных систем федерального правительства» и создать или расширить федеральную программу, которая «усовершенствует средства защиты с использованием искусственного интеллекта».

Указ Трампа также предусматривает создание «центра по кибербезопасности в сфере ИИ», который будет функционировать в рамках «добровольного сотрудничества» с индустрией ИИ и другими операторами критической инфраструктуры. Целью будет сканирование программных уязвимостей в передовых моделях ИИ с приоритетом на «устранение и распространение исправлений уязвимостей».

Трамп планировал подписать предыдущую версию этого указа, но 21 мая заявил, что отложит подписание, поскольку остался недоволен «некоторыми его аспектами».

Ранее в том же месяце Центр стандартов и инноваций в области искусственного интеллекта Министерства торговли объявил о партнерстве с гигантами в сфере ИИ — Google, Microsoft и xAI — для тестирования их новых перспективных моделей на предмет потенциальных угроз безопасности перед их полноценным публичным выпуском.

После того, как 7 апреля компания Anthropic анонсировала свою предварительную модель Claude Mythos Preview, которая пока недоступна для публичного использования из-за опасений злоумышленников, что она может быть использована для поиска критически важных уязвимостей в программном обеспечении, опасения по поводу кибербезопасности в отношении новых моделей ИИ резко возросли.

Ранее администрация Трампа уже предпринимала шаги по запрету компании Anthropic вести бизнес с федеральным правительством после того, как компания отказалась предоставить Пентагону неограниченный доступ к своим моделям Claude, заявив, что опасается их использования для массового внутреннего наблюдения или в качестве полностью автономного оружия, что Пентагон отрицает.

Несмотря на запрет, соучредитель Anthropic Джек Кларк заявил в апреле, что вел переговоры с администрацией Трампа по поводу Claude Mythos Preview.

Альянс за безопасный ИИ, некоммерческая организация, которая «просвещает общественность о последствиях развития искусственного интеллекта», 2 июня призвала Конгресс закрепить в законодательстве указ Трампа о «создании правовой основы, которая сделает обязательной проверку федеральным правительством моделей передового ИИ».

Исполнительный указ Трампа позволяет компаниям, занимающимся разработкой искусственного интеллекта, на добровольной основе представлять свои перспективные модели на рассмотрение правительства.

«После того, как передовые модели искусственного интеллекта, такие как Mythos, стали тревожным сигналом для национальной безопасности, мы рады видеть, что администрация Трампа серьезно относится к рискам, связанным с этими моделями. Однако мы знаем, что крупные технологические компании по-прежнему будут пытаться экономить на безопасности», — заявил в своем заявлении Брендан Штайнхаузер, генеральный директор Альянса за безопасный ИИ.

«Следующие модели искусственного интеллекта будут еще мощнее и будут представлять еще большую угрозу для нашей страны, чем Mythos. Эти компании нуждаются в контроле, и им нельзя доверять в том, что они будут действовать правильно добровольно».