El término Human in the loop (HITL), tal y como lo define IBM, hace referencia a los sistemas en los que los seres humanos participan activamente en el funcionamiento, la supervisión o la toma de decisiones de un sistema automatizado, garantizando la precisión, la seguridad, la responsabilidad y la toma de decisiones éticas. En los servicios financieros, esto significa que los ejecutivos deben integrar el juicio humano en los puntos en los que los sistemas de IA se cruzan con el cumplimiento normativo, la confianza de los clientes y el escrutinio regulatorio. A continuación se presentan cinco consideraciones que los ejecutivos deben tener en cuenta en lo que respecta a los sistemas HITL.
El cumplimiento normativo no es automático, la supervisión humana es esencial
La complejidad normativa en la banca, que abarca el KYC, el AML y la divulgación de información al consumidor, exige algo más que listas de verificación automatizadas. Los revisores humanos deben validar las decisiones generadas por la IA, garantizando un cumplimiento normativo matizado y una adaptabilidad en tiempo real. Incorpora revisores humanos en los momentos clave de la toma de decisiones y asegúrate de que se mantengan registros de auditoría completos.
La desviación del modelos y los patrones de fraude requieren la retroalimentación humana
En la detección del fraude, los patrones evolucionan rápidamente y los datos siguen siendo escasos. Los expertos humanos en la materia pueden corregir los errores de la IA, lo que aumenta significativamente la precisión y la resiliencia de los modelos. Establece canales en los que la retroalimentación humana se incorpore rápidamente al reentrenamiento de los modelos o a las reglas de anomalías.
Fomenta la confianza de los consumidores con autoridad humana
Las investigaciones demuestran que los clientes siguen los consejos de inversión con más frecuencia y obtienen mejores resultados cuando un asesor humano tiene la autoridad final, incluso si la IA propuso la recomendación inicial. Posiciona a la IA como asistente, no como árbitro, y preserva el toque humano en las decisiones que afectan a los clientes.
Reduce la aversión a los algoritmos dando poder de decisión a los usuarios
A menudo, las personas desconfían de los resultados algorítmicos en ámbitos de alto riesgo, como las finanzas. Permitir a los usuarios finales o a los agentes revisar, ajustar o anular los resultados de la IA reduce la resistencia y genera confianza. Proporciona interfaces que permitan a los humanos modificar fácilmente las recomendaciones de la IA y ver claramente el razonamiento o las puntuaciones de riesgo.
Garantizar la supervisión de la alta dirección con transparencia y explicabilidad
La IA puede simplificar tareas rutinarias como la redacción de informes de cumplimiento o propuestas de cartera, pero los ejecutivos siguen necesitando visibilidad sobre cómo se toman las decisiones y por qué. Implementa herramientas de explicabilidad que revelen la lógica detrás de las decisiones de la IA, establece marcos de responsabilidad claros y forma a los directivos sobre cómo interpretar el comportamiento de la IA.
En conjunto, estos pasos conforman una hoja de ruta para una adopción eficaz. Los ejecutivos deben incorporar a personas en los puntos de control de cumplimiento, integrar los comentarios de los expertos en las actualizaciones de los modelos de fraude, mantener la autoridad final de las personas en las interacciones con los clientes, ofrecer interfaces transparentes que reduzcan la aversión a los algoritmos e implementar paneles de control explicables para respaldar la supervisión de la alta dirección. Cada medida refuerza la confianza, mejora la resiliencia y garantiza que la promesa de la IA se cumpla de forma responsable.
Las empresas de servicios financieros deben hacer malabarismos con cargas normativas únicas, expectativas de los clientes y riesgos para su reputación. La intervención humana no es un recurso de emergencia, sino una necesidad estratégica. Al integrar la perspectiva humana donde más importa, los líderes pueden aprovechar la eficiencia de la IA sin sacrificar la confianza, el cumplimiento normativo o la adaptabilidad.
