ИИ-агенты вновь привлекли внимание к предупреждению Генслера о финансовой стабильности

В ноябре 2020 года, до того как стать председателем SEC, Генслер вместе с Лили Бейли написал статью под названием «Глубокое обучение и финансовая стабильность». В исследовании утверждалось, что распространение глубокого обучения в финансовой сфере может привести к уязвимости, если организации будут полагаться на схожие модели, данные и стратегии оптимизации. Речь шла не столько о сбоях отдельных алгоритмов, сколько о том, что множество систем могут одновременно реагировать схожим образом. Эта возможность стала актуальнее по мере того, как ИИ-агенты переходят к автономной финансовой деятельности, включая инвестиции, платежи и управление портфелем.

В ходе обсуждения также упоминались опасения, что автономные агенты могут быстро перемещать депозиты или инвестиции, оптимизируя доходность, и тем самым усиливать напряжённость во время сбоев на рынке. Похоже, Шварц признал риск координации, но отверг идею о том, что более высокий интеллект сам по себе ведёт системы к неудачным решениям. Это различие обращает внимание на стимулы и коррелированное поведение, а не на предположение, что более умные модели просто будут действовать иррационально. Этот вопрос важен, поскольку программируемые платёжные системы позволяют программному обеспечению непрерывно выполнять финансовые операции со скоростью машины.

В статье 2020 года также утверждалось, что финансовому регулированию, разработанному до широкого распространения глубокого обучения, может быть трудно справляться с рисками, создаваемыми взаимосвязанными автоматизированными системами. Когда схожие модели оптимизируют решения на основе одних и тех же сигналов и реагируют быстрее, чем люди могут вмешаться, проблема становится вопросом структуры рынка. Финансовые организации и криптовалютные сети экспериментируют с автономным программным обеспечением, в том числе с инструментами XRP Ledger для платежей на базе ИИ, поэтому провести связь с прежним предупреждением и инфраструктурой теперь проще.

Реакция Шварца не означает, что он поддерживает все выводы статьи, но признаёт, что некоторые положения аргументации по-прежнему заслуживают доверия. Остаётся открытым вопрос, сделает ли ИИ финансы эффективнее, не приводя к большей синхронизации и уязвимости коллективного поведения. По мере того как автономные агенты получают доступ к кошелькам, платёжным системам и инвестиционным инструментам, баланс между индивидуальной оптимизацией и стабильностью системы в целом перестаёт быть чисто теоретическим и становится практической проблемой уже сегодня.