Les agents d’IA ravivent l’avertissement de Gensler sur la stabilité financière
Gensler a cosigné en novembre 2020, avec Lily Bailey, l’article intitulé « Deep Learning and Financial Stability », avant de devenir président de la SEC. Cette étude soutenait que l’adoption de l’apprentissage profond dans l’ensemble du secteur financier pourrait créer de la fragilité si les institutions s’appuyaient sur des modèles, des données et des stratégies d’optimisation similaires. La préoccupation portait moins sur la défaillance d’algorithmes individuels que sur le fait que de nombreux systèmes puissent réagir de manière similaire au même moment. Cette éventualité est devenue plus pertinente à mesure que les agents d’IA se rapprochent d’une activité financière autonome, notamment les investissements, les paiements et la gestion de portefeuille.
La discussion a également évoqué les craintes que des agents autonomes puissent rapidement déplacer des dépôts ou des investissements pour optimiser les rendements, amplifiant les tensions lors de perturbations des marchés. Schwartz semblait reconnaître le risque de coordination tout en rejetant l’idée qu’une intelligence accrue conduise naturellement les systèmes à prendre de mauvaises décisions. Sa distinction met l’accent sur les incitations et les comportements corrélés, plutôt que de supposer que des modèles plus intelligents agiront simplement de manière irrationnelle. Cette question compte, car les systèmes de paiement programmables permettent aux logiciels d’exécuter des opérations financières en continu, à la vitesse des machines.
L’article de 2020 soutenait également que la réglementation financière, conçue avant l’adoption généralisée de l’apprentissage profond, pourrait avoir du mal à faire face aux risques engendrés par des systèmes automatisés interconnectés. La question devient alors celle de la structure du marché lorsque des modèles similaires optimisent leurs résultats à partir des mêmes signaux et réagissent plus vite que les décideurs humains ne peuvent intervenir. Les institutions financières et les réseaux crypto expérimentent des logiciels autonomes, notamment des outils du XRP Ledger pour les paiements pilotés par l’IA, ce qui facilite l’établissement d’un lien entre l’avertissement antérieur et les infrastructures.
La réaction de Schwartz ne signifie pas qu’il approuve toutes les conclusions de l’article, mais elle reconnaît que certains éléments de son argumentation restent crédibles. La question reste de savoir si l’IA rend la finance plus efficace sans rendre les comportements collectifs plus synchronisés et plus fragiles. À mesure que les agents autonomes accèdent aux portefeuilles, aux réseaux de paiement et aux outils d’investissement, cet équilibre entre optimisation individuelle et stabilité à l’échelle du système passe de la théorie à une préoccupation opérationnelle actuelle.
