Банк Англии предупредил, что автономные ИИ-агенты рискуют обвалить рынок

Заместитель управляющего Банка Англии Сара Бридон предупредила, что автономные ИИ-агенты способны спровоцировать «обвал рынка», и заявила о необходимости более жёсткого регулирования этой сферы, сообщает Bloomberg.

Что именно беспокоит регулятора

По словам Бридон, риск связан именно с автономностью ИИ-агентов — систем, которые не просто дают рекомендации человеку, а самостоятельно принимают и исполняют решения, в том числе финансовые, без пошагового контроля со стороны людей на каждом шаге. Источник Bloomberg не приводит развёрнутых деталей заявления, но формулировка «market meltdown» («обвал», буквально «расплавление» рынка) указывает на опасения по поводу каскадных, самоусиливающихся сбоев — ситуации, когда решения множества независимых автономных систем накладываются друг на друга и разгоняют панику на рынке быстрее, чем регуляторы и люди-трейдеры успевают среагировать и вмешаться.

• Автор предупреждения — Сара Бридон, заместитель управляющего Банка Англии
• Формулировка риска — «market meltdown», обвал рынка
• Предлагаемая мера — более жёсткое регулирование автономных ИИ-агентов в финансах

«Автономные ИИ-агенты рискуют спровоцировать обвал рынка», — предупредила

Сара Бридон.

Почему это не первое такое предупреждение

Центральные банки и финансовые регуляторы годами следят за рисками алгоритмической торговли: подобные опасения звучали ещё после «Flash Crash» 2010 года, когда высокочастотные торговые алгоритмы за считаные минуты обрушили, а затем восстановили американский рынок акций. Появление генеративного ИИ и автономных агентов, способных самостоятельно анализировать новости, торговать и управлять инвестиционными портфелями, поднимает ставки: такие системы, обученные на схожих данных и моделях, могут реагировать на один и тот же рыночный сигнал синхронно и почти мгновенно, усиливая, а не сглаживая волатильность — эффект, который сложно предсказать заранее на исторических данных.

Банк Англии регулярно поднимает тему ИИ-рисков в своих обзорах финансовой стабильности и неоднократно подчёркивал, что скорость внедрения ИИ в финансовом секторе опережает скорость выработки регуляторных норм для него. Заявление Бридон продолжает эту линию и добавляет к общей дискуссии конкретный образ — «расплавление рынка» — который проще воспринимать и цитировать, чем сухие формулировки регуляторных документов.

Похожие опасения по поводу «стадного поведения» ИИ-моделей на финансовых рынках в последние годы поднимают и другие международные институты, включая Совет по финансовой стабильности (FSB) и Международный валютный фонд: если множество участников рынка полагаются на схожие модели и данные, их решения перестают быть независимыми друг от друга, а значит система в целом теряет устойчивость, которую обеспечивает разнообразие стратегий отдельных инвесторов.

Заявление Бридон прозвучало на фоне быстрого роста использования ИИ хедж-фондами и управляющими активами, которые всё чаще передают часть торговых решений автоматизированным системам, чтобы быстрее реагировать на новости и рыночные движения, — именно этот тренд, по мнению регуляторов, и создаёт почву для сценариев синхронных, самоусиливающихся сбоев, о которых предупреждает заместитель управляющего Банка Англии.

Что это значит

Предупреждение одного из ключевых финансовых регуляторов Европы показывает, что дискуссия о рисках ИИ смещается из области этики и рынка труда в сферу системной устойчивости финансовых рынков — а значит, конкретные правила для автономных торговых агентов могут появиться уже в обозримом будущем.