Cuando la IA comienza a actuar por sí misma

Introducción

La inteligencia artificial ha sido parte de los servicios financieros durante años. Los algoritmos ya respaldan la evaluación crediticia, detección de fraudes, trading algorítmico y análisis de clientes.

Lo que está cambiando ahora es el grado de autonomía.

Los bancos están implementando cada vez más IA agentica—sistemas capaces de ejecutar flujos de trabajo de múltiples pasos, tomar decisiones, interactuar con herramientas externas e iniciar transacciones con mínima intervención humana. En lugar de asistir a los empleados, estos sistemas actúan cada vez más en su nombre.

El cambio resulta operacionalmente atractivo. Las instituciones financieras enfrentan una presión constante para reducir costos, acelerar procesos y mejorar la experiencia del cliente. Los agentes autónomos prometen ganancias de eficiencia significativas en incorporación, monitoreo de cumplimiento, investigación de fraudes y soporte al cliente.

Pero la autonomía modifica el perfil de riesgo.

Los riesgos tradicionales de la IA—sesgos, errores en los datos, opacidad del modelo—se vuelven más relevantes cuando el sistema no solo recomienda acciones, sino que las ejecuta. En finanzas, donde las decisiones mueven dinero y afectan derechos legales, las consecuencias pueden escalar rápidamente.

El auge de la IA agentica en la banca

La IA temprana en finanzas funcionaba principalmente como una herramienta analítica. Generaba insights, pero generalmente dejaba las decisiones finales a los humanos.

La IA agentica introduce un modelo diferente. Estos sistemas pueden planear, razonar en múltiples tareas e interactuar con software o fuentes de datos externas para completar flujos de trabajo complejos.

Por ejemplo, un agente de IA que respalde la incorporación podría recopilar documentos, verificar identidad, realizar controles de cumplimiento, detectar patrones sospechosos y completar la apertura de cuenta sin intervención humana.

De manera similar, un agente de investigación de fraudes impulsado por IA podría analizar redes de transacciones, solicitar información adicional a bases de datos externas, congelar cuentas y generar informes regulatorios.

Las empresas tecnológicas están promoviendo activamente estas capacidades.
Microsoft ha destacado el papel emergente de “agentes de IA” en entornos empresariales capaces de coordinar flujos de trabajo digitales complejos.

Las instituciones financieras están explorando arquitecturas similares a medida que escalan la automatización en sus operaciones.

El resultado es una transición de IA de apoyo a decisiones a IA que ejecuta decisiones.

Esa distinción importa.

Cuando los sistemas autónomos fallan

La toma de decisiones autónoma introduce el riesgo de acciones no autorizadas o erróneas.

Los agentes de IA pueden malinterpretar instrucciones, inventar información o exceder el alcance de su autoridad delegada. En entornos orientados al consumidor, esto podría derivar en compras no intencionadas, transferencias financieras incorrectas o aprobación de transacciones que deberían haber sido rechazadas.

Algunos comentaristas ya se refieren a este fenómeno potencial como “robo-compras”, donde agentes autónomos inician compras o compromisos financieros sin el consentimiento claro del usuario.

Cuando ocurren estos eventos, las cuestiones legales se complican.

¿Es responsable el usuario por las acciones del agente?
¿La responsabilidad recae en el banco que despliega el sistema?
¿O en el proveedor de tecnología?

La legislación financiera aún no ha alcanzado completamente a los sistemas de decisión autónoma. Los marcos existentes generalmente asumen actores humanos.

Cuando las máquinas comienzan a iniciar compromisos financieros, la arquitectura legal se vuelve menos clara.

Una nueva frontera para el fraude y la ciberdelincuencia

Los estafadores rara vez ignoran las nuevas tecnologías.

La IA agentica amplía significativamente la superficie de ataque de los sistemas financieros. Los agentes autónomos interactúan con herramientas externas, APIs, bases de datos y otros agentes. Cada interacción crea vulnerabilidades potenciales.

Los atacantes ya experimentan con inyección de prompts, donde entradas maliciosas manipulan a los sistemas de IA para realizar acciones no deseadas.

Los ciberdelincuentes también pueden explotar a los agentes mediante manipulación de herramientas, robo de identidad o deepfakes diseñados para engañar a los sistemas automatizados de decisión.

La aparición de agentes de IA como entidades operativas independientes plantea otra cuestión de seguridad: la identidad.

Si un agente de IA puede realizar transacciones, solicitar datos o autorizar acciones, debe tener credenciales. Eso lo convierte en un nuevo tipo de identidad digital.

Los expertos en seguridad argumentan cada vez más que las organizaciones deben tratar a los agentes de IA como identidades gestionadas, sujetas a autenticación, autorización y monitoreo—como los empleados humanos.

No hacerlo podría abrir caminos para fraudes automatizados a una escala sin precedentes.

Sesgos, equidad y exposición regulatoria

Los servicios financieros son uno de los sectores más regulados en la economía global.

Las decisiones de préstamo, estructuras de precios y clasificaciones de riesgo están sujetas a reglas estrictas para prevenir discriminación.

Los sistemas de IA entrenados con datos sesgados o incompletos pueden reproducir inadvertidamente desigualdades históricas. En entornos de crédito, esto podría traducirse en resultados discriminatorios que afecten a grupos protegidos.

Ya los reguladores han advertido sobre estos riesgos.

La Reserva Federal de EE. UU. ha señalado preocupaciones respecto a la toma de decisiones basada en IA en servicios financieros, especialmente cuando la opacidad del modelo dificulta demostrar equidad y cumplimiento.

La IA agentica amplifica este desafío.

Si un sistema autónomo ejecuta decisiones de préstamo o clasificaciones de clientes sin una explicación clara, las instituciones pueden tener dificultades para demostrar cumplimiento regulatorio.

La opacidad se convierte en un riesgo legal.

El problema de la explicabilidad

Los modelos de IA modernos—especialmente los grandes modelos de lenguaje—funcionan a menudo como cajas negras.

Producen resultados que parecen coherentes, pero ofrecen poca transparencia sobre el proceso de razonamiento que los genera.

En finanzas, esta falta de explicabilidad puede generar problemas graves.

Los auditores necesitan rastrear decisiones. Los reguladores exigen justificaciones para acciones que afectan a los clientes. La resolución de disputas depende de entender qué salió mal.

Si un agente de IA rechaza una solicitud de préstamo, marca una transacción como sospechosa o congela una cuenta, las instituciones deben poder explicar por qué.

Sin mecanismos de explicabilidad y registros de auditoría, la responsabilidad se vuelve difícil de establecer.

Y sin responsabilidad, la confianza se erosiona.

Riesgo sistémico y estabilidad del mercado

Quizá los riesgos más preocupantes surgen a nivel del sistema, no solo de la institución individual.

La interacción de agentes autónomos en los mercados financieros podría crear comportamiento de manada.

Si múltiples sistemas de IA responden a señales del mercado de formas similares, podrían generarse bucles de retroalimentación rápida. En escenarios extremos, esto podría contribuir a caídas súbitas, shocks de liquidez o patrones de trading desestabilizadores.

Los bancos centrales y reguladores estudian cada vez más estas dinámicas.

El Banco de Pagos Internacionales ha señalado que el trading algorítmico ya genera efectos de retroalimentación complejos en los mercados financieros.

La IA agentica podría acelerar esas dinámicas al permitir ciclos de decisión más rápidos y autónomos.

Otra preocupación sistémica es el riesgo de concentración.

Muchas instituciones financieras dependen de los mismos proveedores de nube y plataformas de modelos de IA. Si la industria converge en unas pocas infraestructuras, fallos o vulnerabilidades en esos sistemas podrían tener efectos en cascada en todo el sector financiero.

La gobernanza lucha por mantenerse al día

Los marcos regulatorios están emergiendo, pero siguen fragmentados.

La Ley de IA de la Unión Europea es uno de los intentos más completos de regular la inteligencia artificial, incluyendo aplicaciones de alto riesgo en servicios financieros.

El Reino Unido, EE. UU. y varias jurisdicciones de Asia-Pacífico están desarrollando sus propias regulaciones.

Pero no existe un marco global que aborde específicamente la IA agentica.

Esto repite un patrón conocido en innovación financiera: la tecnología avanza más rápido que la regulación.

En ausencia de estándares unificados, las instituciones deben depender en gran medida de sus propios marcos de gestión de riesgos.

Estrategias emergentes de mitigación de riesgos

Los informes del sector en 2026 destacan varias estrategias comunes de mitigación.

Una es la supervisión humana en el ciclo para decisiones financieras críticas. Los sistemas autónomos pueden asistir o ejecutar procesos, pero los humanos mantienen la autoridad final en casos sensibles.

Otra consiste en establecer límites estrictos y permisos que restrinjan lo que los agentes de IA pueden hacer. Estos controles pueden limitar el tamaño de las transacciones, el acceso a herramientas o la autoridad de decisión.

La supervisión en tiempo real también se vuelve esencial. Los agentes de IA requieren monitoreo continuo mediante registros, análisis de comportamiento y detección de anomalías.

Algunas instituciones ya comienzan a tratar a los agentes de IA como empleados digitales.

Al igual que el personal humano, necesitan roles definidos, credenciales de identidad, registros de actividad y protocolos de escalamiento en caso de errores.

Los marcos de IA responsable se integran cada vez más en el diseño de sistemas, en lugar de añadirse como una capa posterior.

Las empresas que adopten estas prácticas tempranamente probablemente evitarán muchas fallas evitables.

La tentación de la eficiencia

A pesar de estos riesgos, los incentivos para adoptar siguen siendo fuertes.

Estudios sugieren que la automatización impulsada por IA podría ofrecer mejoras en eficiencia operativa del 20 por ciento o más en muchos flujos de trabajo financieros.

En una industria bajo constante presión de costos, esas cifras son difíciles de ignorar.

El desafío no es si la IA será adoptada.

Es cómo las instituciones gestionan cuidadosamente esa transición.

Conclusión

La IA agentica representa la próxima fase de automatización en los servicios financieros.

Estos sistemas prometen procesos más rápidos, menores costos operativos y mejor experiencia para el cliente. Ya están transformando la detección de fraudes, los flujos de cumplimiento y las interacciones con clientes.

Pero la autonomía trae nuevos riesgos.

Acciones no autorizadas, explotación cibernética, sesgos, opacidad, inestabilidad sistémica y incertidumbre regulatoria se vuelven más relevantes cuando las máquinas actúan de forma independiente.

La industria financiera siempre ha equilibrado innovación con prudencia.

La IA agentica pondrá a prueba si ese equilibrio puede mantenerse.

MIS reflexiones

Encuentro la conversación actual sobre la IA agentica tanto fascinante como ligeramente inquietante.

Hay un entusiasmo enorme por la eficiencia. Es comprensible. Las instituciones financieras operan bajo una presión intensa para reducir costos y avanzar más rápido.

Pero a veces me pregunto si estamos subestimando la complejidad de lo que estamos construyendo.

Durante siglos, los sistemas financieros se basaron en la responsabilidad humana. Las decisiones tenían nombres asociados. Alguien podía ser cuestionado, investigado o responsabilizado.

Los agentes autónomos desafían ese modelo.

Cuando un sistema de IA toma una decisión, la responsabilidad se difumina entre desarrolladores, instituciones, fuentes de datos y proveedores de infraestructura.

Esa dispersión me preocupa.

Otra duda que me acecha: ¿estamos creando sistemas que interactúan entre sí más rápido de lo que los humanos pueden supervisar de manera significativa?

La historia financiera advierte sobre bucles de retroalimentación automatizados. Los mercados ya se mueven lo suficientemente rápido. Los agentes autónomos podrían acelerar esas dinámicas de formas que aún no comprendemos completamente.

Y está el tema de la confianza.

Los clientes pueden disfrutar de la conveniencia de los servicios automatizados. Pero, ¿qué tan cómodos estarán si descubren que muchas decisiones financieras que los afectan las toman sistemas opacos?

La transparencia importa.

Quizá el problema más profundo sea cultural. Las instituciones financieras han sido históricamente cautelosas. Esa cautela a veces ha sido frustrante, pero también ha evitado desastres.

¿El impulso competitivo por desplegar IA debilitará esa disciplina?

¿O las instituciones redescubrirán la importancia del pensamiento pausado en un entorno tecnológico acelerado?

No tengo respuestas definitivas.

Pero creo que este momento merece un debate reflexivo.

Si los agentes de IA van a convertirse en los “empleados digitales” del sistema financiero, debemos preguntarnos una cosa sencilla.

¿Qué tipo de empleados estamos creando?

¿Y estamos preparados para supervisarlos adecuadamente?

Me encantaría conocer cómo otros en riesgo, tecnología y liderazgo financiero están pensando en estas cuestiones.