«Относительно простые» торговые боты на основе искусственного интеллекта естественным образом вступают в сговор с целью мошенничества на рынках: Уортон

 Никого не удивит, что «относительно простые» боты на основе искусственного интеллекта, запущенные в симуляции, имитирующие реальные фондовые и облигационные биржи,  не просто конкурируют за прибыль;  они вступают в сговор, чтобы устанавливать цены, накапливать прибыль и вытеснять трейдеров-людей ,  утверждают  трое исследователей из Уортона и Гонконгского университета науки и технологий. 

Как  сообщает Bloomberg  ;

В симуляциях, имитирующих реальные рынки,  торговые агенты, управляемые искусственным интеллектом, формировали картели по ценовому сговору  без каких-либо чётких инструкций.  Даже при относительно простом программировании боты предпочитали вступать в сговор, когда их предоставляли самим себе , что вызывало новую тревогу у рыночных наблюдателей.

Другими словами,  ИИ-ботам не нужно быть злыми или даже особенно умными, чтобы манипулировать рынком.  Если их оставить в покое, они сами научатся. 

По словам Итая Голдштейна, одного из исследователей и профессора финансов в Школе бизнеса Уортона Пенсильванского университета, «Вы можете заставить эти довольно простые алгоритмы искусственного интеллекта вступить в сговор… Это выглядит очень распространенным, как когда рынок очень шумный, так и когда рынок спокойный».

Этот феномен предполагает, что агенты ИИ представляют собой проблему, с которой регуляторам ещё только предстоит столкнуться, поскольку исследование трёх участников уже привлекло внимание как регуляторов, так и управляющих активами.  Их пригласили представить свои выводы на семинаре , в то время как некоторые количественные компании, не названные Уинстоном Доу (коллегой Голдштейна по Уортону), выразили заинтересованность в чётких нормативных требованиях и правилах для алгоритмического исполнения торговых операций с использованием ИИ.

«Они беспокоятся, что это не их намерение, — сказал Доу. — Но регулирующие органы могут прийти к ним и сказать: „Вы делаете что-то неправильно“».

Согласно отчету,  ученые все чаще изучают, как генеративный ИИ и обучение с подкреплением могут изменить Уолл-стрит  . Недавний опрос Coalition Greenwich показал, что  15% трейдеров на стороне покупки уже используют ИИ в своих рабочих процессах исполнения , а еще 25% планируют последовать их примеру в следующем году. 

Тем не менее, в статье Уортона не утверждается, что сговор ИИ  происходит  в реальном мире, и не высказывается позиция относительно того, занимаются ли люди подобными вещами. Исследователи создали гипотетическую торговую среду с различными участниками, включая паевые инвестиционные фонды, маркет-мейкеров, а также розничных инвесторов, создающих шум и гоняющихся за мемами. Затем они запустили своих ИИ-ботов и изучили результаты. 

На нескольких моделируемых рынках  агенты ИИ начали сотрудничать, а не конкурировать, фактически формируя картели, которые делили прибыль и препятствовали переходу из рук в руки . Когда цены отражали ясную, фундаментальную информацию, боты вели себя сдержанно, избегая действий, которые могли бы подорвать коллективную прибыль.

На более шумных рынках они возвращались к прежним схемам сотрудничества и прекращали поиск более эффективных стратегий.  Исследователи назвали этот эффект «искусственной глупостью»: тенденция ботов отказываться от новых идей, замыкаясь в схемах распределения прибыли, просто потому, что они достаточно хорошо работают. — Bloomberg

«Людям сложно координировать свои действия в отношении глупости, потому что у нас есть эго», — сказал Доу. «Но машины действуют так: „Пока цифры приносят прибыль, мы можем координировать свои действия в отношении глупости“».

Чтобы точно оценить  масштаб сговора  , исследователи создали метрику под названием «способность к сговору», которая сравнивает коллективную прибыль ИИ-трейдеров с той, которую они могли бы получить при отсутствии или высокой конкуренции. Ноль означает отсутствие сговора, а единица — идеальный картель.  Боты стабильно набирали баллы выше 0,5 как на рынках с низким, так и с высоким уровнем шума , что свидетельствует о необходимости нового подхода к регулированию, который будет фокусироваться на поведенческих результатах, а не на коммуникации или намерениях. 

«Хотя ограничение сложности алгоритма или объёма памяти может помочь предотвратить сговор ИИ, связанный с ценой, такие меры могут непреднамеренно усугубить эффект чрезмерного отсечения», — пишут исследователи. «В результате,  ограничения, накладываемые с благими намерениями, могут непреднамеренно подорвать эффективность рынка » .

h/t  Capital.news

Вас может заинтересовать