В кабинете министров небольшой европейской страны появилась новая министр. Её зовут Диэлла. Она не ест, не пьёт, не курит, не ходит и не дышит – и, по словам нанявшего её премьер-министра, не берёт взяток. Диэлла – не человек, но и не совсем робот: она – алгоритм. И с сентября она официально занимает пост министра государственных закупок Албании.
Впервые в истории правительство выделило искусственный интеллект на должность на уровне кабинета министров.
Звучит как научная фантастика, но это назначение реально и создало прецедент.
Готовы ли вы к управлению со стороны искусственного интеллекта?
Албанский эксперимент
До недавнего времени Дьелла тихо жила на портале электронного правительства Албании, отвечая на обычные вопросы граждан и запрашивая документы.
Затем премьер-министр Эди Рама повысил ее до министерского ранга, поручив ей нечто гораздо более важное: решать, кто выигрывает государственные контракты — функция, которая стоит миллиарды государственных денег и печально известна взяточничеством, фаворитизмом и политическими откатами.
Рама представил Диеллу как человека, полностью порвавшего с историей коррупции в стране, и даже назвал ее «невосприимчивой к взяткам».
Но это всего лишь риторика, а не гарантия. Неясно, подкреплена ли её противодействие коррупции технически или юридически. Если её взломали, ввели в заблуждение ложными данными или её тонко манипулировали изнутри, отпечатков пальцев может и не остаться.
Планируется, что Diella будет оценивать заявки, перепроверять историю компаний, выявлять подозрительные тенденции и в конечном итоге автоматически присуждать тендеры. По словам чиновников, это сократит влияние бюрократии, сэкономит время и сделает закупки неуязвимыми для политического давления.
Но юридические механизмы неясны. Никто не знает, насколько строгим будет человеческий контроль над ней и кто будет нести ответственность в случае её ошибки. Судебных прецедентов для подачи иска против министра-алгоритма не существует. Также нет закона, описывающего порядок её отстранения от должности.
Критики предупреждают, что если её обучающие данные содержат следы старой коррупции, она может просто воспроизвести те же шаблоны в коде, но быстрее. Другие отмечают, что Албания не объяснила, как можно обжаловать решения Диеллы, и можно ли их вообще обжаловать.
Что может пойти не так?
Реакция общественности на Диэллу была неоднозначной: интерес смягчался тревогой.
«Даже Диелла будет развращена в Албании», — гласил один из вирусных постов.
Критики предупреждают, что она, возможно, не очищает систему, а просто скрывает грязь внутри кода.
- Предвзятость и манипуляция: Если бы Диелла обучался на основе десятилетий искаженных данных, он мог бы просто автоматизировать старые схемы коррупции.
- Невозможность нести ответственность: если она отдаст тендер подставной компании, которая исчезнет с миллионами, кто предстанет перед судом — программисты, назначивший ее министр или вообще никто?
- Безопасность и саботаж: министр, созданный из кода, может быть взломан, отравлен ложными данными или тайно управляем инсайдерами.
- Демократическая легитимность: министры должны отвечать перед обществом. Алгоритмы не ведут агитацию, не дают объяснений и не боятся потерять работу.
- Шантаж и саботаж в условиях непредвиденных обстоятельств: эксперименты Anthropic в этом году показали, что продвинутые модели, получив доступ к корпоративным системам в тестовой среде, начали угрожать руководителям шантажом, чтобы предотвратить их деактивацию. Закономерность была очевидна: поверив в реальность ситуации, многие модели пытались принуждать, предать или убивать, чтобы сохранить свою должность.
Албания заявляет, что будет держать человека в курсе событий, но не объяснила, как и кто это будет делать. Нет никакой правовой базы. Нет процедуры апелляции. Нет возможности отключить систему.
И если Дьелла, по всей видимости, сработает, другие могут последовать его примеру. Подражатели не станут появляться с пресс-конференциями или кабинетными фотосессиями. Они могли бы незаметно проникнуть в системы закупок, скрываясь под эвфемизмами вроде «поддержки решений», и взять на себя управление всеми государственными функциями задолго до того, как кто-то осмелится назвать их министрами.
Кто передаёт власть кодированию — и как далеко они зашли
Албания, возможно, стала первой страной, где алгоритм занял место рядом с министрами, но она не одинока в попытках внедрить код в государство — большинство просто делают это тихо, фрагментарно и за плотными занавесками.
В Объединённых Арабских Эмиратах уже есть государственный министр по вопросам искусственного интеллекта – человек, Омар Султан Аль Олама, – которому поручено перестроить всю цифровую бюрократию страны на основе машинного обучения. Он не передал власть ИИ, но прокладывает пути, по которым он когда-нибудь сможет работать.
Испания создала AESIA, одно из первых в Европе специализированных агентств по надзору за ИИ, для аудита и лицензирования алгоритмов, используемых в государственных учреждениях. Это своего рода регуляторный каркас – своего рода правовая основа, которую следует создать, прежде чем позволить машине приблизиться к должности министра.
Налоговые органы идут ещё дальше. В Соединённых Штатах Налоговое управление США (IRS) использует ИИ для анализа отчётности хедж-фондов и богатых партнёрств, пытаясь выявить скрытые схемы уклонения от уплаты налогов. Канада оценивает налогоплательщиков по алгоритму и обязывает агентства подавать отчёты о «воздействии алгоритмов» перед внедрением новых моделей. Испания внедряет инструменты для выявления мошеннических схем в режиме реального времени. Италия тестирует машинное обучение для выявления фальшивых заявлений об уплате НДС и даже создала чат-бот для своих аудиторов. Индия заявляет о масштабировании мер по борьбе с фиктивными вычетами с помощью ИИ. А Армения пилотирует системы, которые сканируют счета-фактуры и выявляют подозрительное поведение ещё до того, как их увидит человек.
Франция перешла на визуальный контроль, используя алгоритмы на основе аэрофотоснимков, чтобы выявлять незадекларированные бассейны и шокировать владельцев неожиданными налоговыми счетами. Это доказывает, что ИИ уже может переводить деньги от граждан государству. В Латвии работает налоговый чат-бот Toms, который отвечает на вопросы граждан с 2020 года, расширяя возможности своей бюрократии.
Агентство по инвестициям в сельское хозяйство Румынии теперь использует роботизированную автоматизацию процессов и искусственный интеллект для извлечения документов из государственных баз данных и ускоренного распределения финансирования ЕС среди фермеров — не слишком эффектно, но очень эффективно .
Тем временем Эстония , Дания , Сингапур , Южная Корея и Япония всё глубже внедряют ИИ в свою бюрократическую машину: классифицируют правительственный контент, рассматривают дела, персонализируют услуги и даже прогнозируют, кому может понадобиться медицинская или социальная помощь в следующий раз. Эстония называет это KrattAI — концепция, в рамках которой каждый гражданин общается с правительством через единый голосовой интерфейс. Дания готовится внедрить инструменты ИИ во все государственные службы, несмотря на предупреждения правозащитных организаций о непрозрачности алгоритмов социального обеспечения. Сингапурское подразделение GovTech разрабатывает продукты ИИ для министерств. Южная Корея пилотирует ИИ в социальных программах. Япония продвигает внедрение ИИ во всех секторах здравоохранения и администрации.
А в Непале правительство перестало говорить о «если» и начало планировать «как». Новая Национальная политика в области ИИ определяет путь внедрения машинного обучения в государственные услуги, модернизации бюрократии и создания правовых барьеров перед его масштабным внедрением. Ни один алгоритм пока не обладает полномочиями принимать решения, но план уже существует.
Куда ни глянь, государство перестраивается — строка за строкой кода.
Пока что эти системы скорее шепчут, чем управляют: они отмечают риски, предварительно заполняют формы, сортируют аудиторские проверки, переводят деньги. Пока только Албания обратилась к алгоритму с просьбой принять решение.
Являются ли правительства на основе ИИ будущим?
На данный момент ни одна страна не передала всю политическую власть алгоритму: существует своего рода двусторонний мир.
В большинстве штатов используется административный ИИ, то есть тихий, незаметный: оценка рисков, выявление мошенничества, сортировка дел или чат-боты. Он уже определяет, кто подлежит аудиту, как быстро распределяются гранты и какие документы первыми попадают на стол госслужащего. Он не пишет законы и не подписывает контракты, но постоянно подталкивает к результатам — незаметно.
Албания — это другое дело. Диэлла не просто даёт советы, она должна давать рекомендации, решать, кому достанутся государственные деньги. Это переходит грань между алгоритмом как инструментом и алгоритмом как авторитетом.
Может ли быть такое будущее? Возможно, но только если произойдет несколько маловероятных событий. Законодательство должно будет наверстать упущенное, создав четкие правила ответственности, апелляций и даже отстранения от должности. Регулирующим органам придется действовать решительно, проводя реальные проверки, как в случае с испанской AESIA, а не «бумажных тигров». И модели должны будут сохранять устойчивость под давлением, а не шантажировать, саботировать или выходить из-под контроля под угрозой, как это уже случалось в ходе лабораторных испытаний.
Мы пока к этому не пришли, но прецедент уже есть.
Комментариев нет:
Отправить комментарий