Puntos clave de la noticia:
- David Schwartz, CTO emérito de Ripple, volvió sobre el paper de Gary Gensler de 2020 sobre IA y coincidió con buena parte de sus preocupaciones sobre riesgos financieros.
- El paper advertía que una adopción generalizada del deep learning podría volver más frágiles a los mercados si muchas instituciones dependen de modelos, datos y estrategias de optimización similares.
- Schwartz cuestionó que sistemas más inteligentes necesariamente tomen decisiones irracionales, desplazando el foco hacia el comportamiento correlacionado, los incentivos y el impacto de los agentes autónomos sobre la estabilidad financiera.
David Schwartz, CTO emérito de Ripple, volvió a poner el foco sobre un paper de 2020 coescrito por el ex presidente de la SEC Gary Gensler acerca de la IA y la estabilidad financiera. Schwartz afirmó que buena parte del argumento tenía sentido, aunque cuestionó la idea de que sistemas suficientemente capaces puedan volverse lo bastante inteligentes como para actuar de forma irracional. Su reacción reabre el debate sobre si una adopción masiva de IA podría generar riesgos financieros a través de decisiones sincronizadas. La discusión llega mientras los agentes de IA empiezan a interactuar con infraestructura financiera y dejan de ser una tecnología limitada al terreno experimental.
I think a lot of this makes sense. The part that doesn't is the "they'll be so smart that they'll do dumb things" part.
— David 'JoelKatz' Schwartz (@JoelKatz) September 28, 2026
Los agentes de IA reavivan la advertencia de Gensler sobre estabilidad financiera
Gensler coescribió el paper, titulado “Deep Learning and Financial Stability”, junto con Lily Bailey en noviembre de 2020, antes de asumir como presidente de la SEC. El trabajo planteaba que la adopción del deep learning en las finanzas podría generar fragilidad si muchas instituciones dependieran de modelos, datasets y estrategias de optimización similares. La preocupación no era tanto que un algoritmo individual fallara, sino que muchos sistemas reaccionaran de forma parecida al mismo tiempo. Esa posibilidad resulta más relevante ahora que los agentes de IA avanzan hacia una actividad financiera autónoma, incluyendo inversiones, pagos y gestión de carteras.
La conversación también retomó la posibilidad de que agentes autónomos muevan rápidamente depósitos o inversiones al optimizar rendimientos, amplificando la tensión durante episodios de estrés de mercado. Schwartz pareció aceptar el riesgo de coordinación, pero rechazó la idea de que una mayor inteligencia conduzca naturalmente a malas decisiones. Su planteamiento desplaza la atención hacia los incentivos y el comportamiento correlacionado, en lugar de asumir que modelos más inteligentes simplemente actuarán de forma irracional. La cuestión gana peso a medida que los sistemas de pagos programables permiten que el software ejecute acciones financieras continuamente y a velocidad de máquina.
El paper de 2020 también sostenía que la regulación financiera, diseñada antes de la adopción masiva del deep learning, podría tener dificultades para responder a riesgos creados por sistemas automatizados e interconectados. El problema pasa a ser de estructura de mercado cuando modelos similares optimizan frente a las mismas señales y reaccionan más rápido de lo que los responsables humanos pueden intervenir. Instituciones financieras y redes cripto ya están experimentando con software autónomo, incluidas herramientas de XRP Ledger para pagos impulsados por IA, haciendo que aquella advertencia resulte cada vez más fácil de conectar con infraestructura real.
La reacción de Schwartz no supone una aprobación completa de todas las conclusiones del paper, pero sí reconoce que parte del argumento sigue siendo válido. La cuestión todavía abierta es si la IA puede hacer las finanzas más eficientes sin volver el comportamiento colectivo más sincronizado y frágil. A medida que los agentes autónomos ganan acceso a wallets, rails de pago y herramientas de inversión, el equilibrio entre optimización individual y estabilidad del sistema está pasando de la teoría a convertirse en una preocupación operativa.
