Los agentes de IA reavivan la advertencia de Gensler sobre la estabilidad financiera
Gensler fue coautor del artículo titulado «Deep Learning and Financial Stability» junto con Lily Bailey en noviembre de 2020, antes de convertirse en presidente de la SEC. El estudio sostenía que la adopción del aprendizaje profundo en todo el sector financiero podría generar fragilidad si las instituciones dependían de modelos, datos y estrategias de optimización similares. La preocupación no se centraba tanto en que fallaran algoritmos individuales, sino en que muchos sistemas reaccionaran de manera similar al mismo tiempo. Esa posibilidad ha cobrado más relevancia a medida que los agentes de IA avanzan hacia actividades financieras autónomas, como la inversión, los pagos y la gestión de carteras.
En el debate también se mencionaron las preocupaciones de que los agentes autónomos pudieran trasladar rápidamente depósitos o inversiones al optimizar los rendimientos, intensificando la tensión durante las perturbaciones del mercado. Schwartz pareció aceptar el riesgo de coordinación, pero rechazó la idea de que una mayor inteligencia conduzca naturalmente a los sistemas a tomar malas decisiones. Su distinción dirige la atención a los incentivos y al comportamiento correlacionado, en vez de suponer que los modelos más inteligentes simplemente actuarán de forma irracional. Esta cuestión importa a medida que los sistemas de pago programables permiten que el software ejecute acciones financieras continuamente a velocidad de máquina.
El artículo de 2020 también sostenía que la regulación financiera, concebida antes de la adopción generalizada del aprendizaje profundo, podría tener dificultades para afrontar los riesgos generados por sistemas automatizados interconectados. El problema pasa a ser una cuestión de estructura del mercado cuando modelos similares optimizan sus decisiones a partir de las mismas señales y reaccionan más rápido de lo que pueden intervenir los responsables humanos de tomar decisiones. Las instituciones financieras y las redes cripto están experimentando con software autónomo, incluidas herramientas del XRP Ledger para pagos impulsados por IA, lo que facilita relacionar la advertencia anterior con la infraestructura.
La reacción de Schwartz no respalda todas las conclusiones del artículo, pero reconoce que algunos aspectos del argumento siguen siendo creíbles. La pregunta aún sin resolver es si la IA hace que las finanzas sean más eficientes sin que el comportamiento colectivo se vuelva más sincronizado y frágil. A medida que los agentes autónomos obtienen acceso a billeteras, redes de pago y herramientas de inversión, ese equilibrio entre la optimización individual y la estabilidad del sistema en su conjunto está pasando de la teoría a convertirse hoy en una preocupación operativa.
