Гигант в области искусственного интеллекта, компания Anthropic, призывает правительство ввести «выключатель ИИ», но при этом незаметно вкладывает миллионы в лоббирование чиновников с целью продвижения правила, гарантирующего отключение технологии только в случае гибели более 50 человек в результате инцидента.
Компания Anthropic входит в число нескольких компаний, занимающихся искусственным интеллектом, которые продвигают федеральный механизм прекращения работы ИИ.
Однако компания Anthropic лоббирует введение требования о том, чтобы в случае такой меры угроза причинения серьезного вреда здоровью или смерти составляла не менее 50 человек, или чтобы ущерб имуществу превышал 1 миллиард долларов.
Предлагаемое решение не предусматривает обязательного наличия жертв для принятия мер должностными лицами, но требует наличия доказательств того, что этот порог будет превышен.
Данное правило установит высокий порог для экстренного вмешательства и ограничит его тремя конкретными категориями опасности.
Лоббистская деятельность разворачивается на фоне того, как ведущие компании и руководители в сфере искусственного интеллекта вкладывают десятки миллионов долларов в политические группы в преддверии промежуточных выборов, стремясь оказать влияние, пока Вашингтон рассматривает правила, регулирующие их отрасль.
Высокий порог для действий правительства.
По данным Politico , представители антропогенных групп ведут тайные обсуждения с законодателями по поводу проекта закона об искусственном интеллекте .
В отчете цитировались три человека, знакомые с ходом обсуждений.
Предложенная компанией система позволит федеральным властям вмешиваться в случаях, когда модель представляет собой непосредственную угрозу, связанную с биологическим оружием , катастрофической кибератакой или выходом модели из-под контроля разработчика.
Угроза также должна соответствовать критерию, предусматривающему жертвы или материальный ущерб.
Таким образом, в основе предложения лежит существенное ограничение: риски ниже этих пороговых значений или за пределами этих трех категорий не приведут к активации данного механизма экстренной помощи.
Таким образом, компания Anthropic выступает за федеральный механизм аварийного отключения, одновременно помогая определить узкие обстоятельства, при которых Вашингтон мог бы его использовать.
Многоуровневая бюрократия, прежде чем судья примет решение.
Предлагаемый процесс начнется с назначения независимого наблюдателя, действующего под эгидой Министерства торговли.
Если наблюдатель определит, что разрабатываемая модель ИИ вот-вот будет соответствовать указанным условиям, у него будет 72 часа, чтобы сообщить о своих выводах представителям Министерства торговли.
Затем эти должностные лица должны будут решить, представлять ли доказательства федеральному судье.
В конечном итоге решение о том, можно ли выпустить в открытый доступ отмеченную как проблемную модель, примет единоличный судья.
Данная система предусматривает передачу решения о непосредственной угрозе через наблюдателя, должностных лиц Министерства торговли и суды, создавая множество точек принятия решений, прежде чем опасная модель может быть заблокирована.
Это также расширит полномочия Вашингтона в отношении передового искусственного интеллекта в рамках структуры, в формировании которой активно участвует крупный разработчик.
Миллионы долларов утекают в политику, поскольку промышленность стремится к влиянию.
Согласно подсчетам New York Times , ведущие компании, занимающиеся разработкой искусственного интеллекта, потратили как минимум 55,7 миллиона долларов на политические группы .
Руководители компаний OpenAI и Anthropic были среди тех, кто направлял деньги в политические организации в преддверии выборов.
Эти расходы сопровождаются всё более острой борьбой за то, кто будет устанавливать правила для мощных систем искусственного интеллекта, какими полномочиями обладает Вашингтон и какие обязательства должны принимать разработчики.
Компания Anthropic защитила свое предложение, заявив, что оно является продолжением политики, которую она продвигает уже несколько месяцев.
«Этот законопроект отражает предложения, изложенные в концепции передового искусственного интеллекта компании Anthropic, за которую мы боролись с федеральными и региональными законодателями с июня», — заявил представитель Anthropic изданию Politico.
«Мы считаем, что Конгресс должен принять меры в соответствии с этими разумными политическими решениями».
Компания Anthropic пока публично не поддержала конкретные законодательные инициативы в Конгрессе.
Однако они поддержали некоторые законы штатов, касающиеся безопасности ИИ, в том числе два в Калифорнии .
В течение лета компания Anthropic подверглась масштабным мерам экспортного контроля , которые привели к приостановке работы двух ее самых передовых моделей.
Решение было принято в ходе стремительной серии телефонных разговоров между представителями администрации и руководителями компании.
Этот инцидент вызвал обеспокоенность у некоторых представителей технологической индустрии, которые опасались, что доступ к их технологиям может быть ограничен по прихоти государственных чиновников.
Предложение, которое компания незаметно продвигает, ставит перед законодателями ключевой вопрос: обеспечит ли поддерживаемая отраслью система безопасности эффективную защиту или оставит разработчикам значительную свободу действий в рамках узко установленных пороговых значений для чрезвычайных ситуаций.
Комментариев нет:
Отправить комментарий