Inteligencia artificial en cumplimiento: la fca exige resultados, no solo tecnología
La Financial Conduct Authority (FCA) ha enviado un mensaje claro a las entidades financieras: la adopción de la inteligencia artificial para combatir el blanqueo de capitales no es una excusa para relajar los controles, sino una herramienta que debe demostrar su eficacia. La innovación es bienvenida, pero no a costa de la seguridad.
La supervisión se centra en los resultados, no en el algoritmo
El regulador británico ha dejado patente que su enfoque se dirige a la obtención de resultados tangibles, precisos y explicables, independientemente de la tecnología empleada. Ya hay instituciones financieras integrando IA en sus procesos de cumplimiento normativo, una apuesta lógica para optimizar la detección de riesgos. Pero la FCA no se anda con rodeos: la capacidad de justificar cada decisión, presentando la evidencia que la respalda, es ahora un requisito ineludible. Se exige una trazabilidad completa, especialmente a medida que se implementan sistemas de IA más autónomos, donde las decisiones se toman sin intervención humana directa.
Detectar el error, más allá del falso positivo
Las pruebas de los sistemas de IA para la detección de delitos financieros no se limitan a identificar falsos positivos (errores de tipo 1) o falsos negativos (errores de tipo 2). La FCA subraya la importancia de abordar un tipo de error más sutil: el razonamiento defectuoso subyacente, incluso cuando el resultado final parece correcto. Un ejemplo claro sería una correlación espuria entre datos irrelevantes que conduce a una conclusión aparentemente válida, pero errónea. Este problema, común en modelos de lenguaje, puede generar alertas basadas en vectores incorrectos, errores que se agravan a medida que la IA aprende de sus propios errores.
La experiencia del analista, un filtro imprescindible
La validación de los resultados de la IA no puede depender exclusivamente de los científicos de datos. Debe existir una tensión constructiva entre los expertos en IA y los profesionales del cumplimiento normativo, para asegurar que la lógica del sistema se alinea con el conocimiento institucional. El hecho de que un analista experimentado detecte riesgos que la IA no considera, es una señal de alarma que exige una revisión del modelo. La clave está en encontrar tanto falsos positivos como falsos negativos en los resultados generados por la AI.
Un precedente australiano: llms bajo escrutinio
La reciente sentencia de un tribunal australiano, que amonestó a la Comisión de Valores e Inversiones australiana (ASIC) por el uso de modelos de lenguaje (LLMs) para resumir documentos sin la validación humana adecuada, sirve como advertencia. El tribunal destacó la importancia de que los humanos, legalmente responsables, supervisen la información procesada por la IA. Es un recordatorio de que la tecnología no puede sustituir el juicio profesional.
Colaboración con el regulador: la vía rápida para el éxito
La FCA, consciente de los desafíos que plantea la IA, está facilitando el acceso a entornos de pruebas y recursos computacionales para acelerar la validación y el diseño de modelos. Iniciativas como el Supercharged Sandbox ofrecen a las entidades reguladas la oportunidad de experimentar y perfeccionar sus sistemas. La participación proactiva en grupos de trabajo y la asistencia a jornadas de presentación son pasos fundamentales para garantizar que las soluciones de IA se ajusten a las expectativas del regulador. La colaboración con los reguladores es un pilar fundamental de un enfoque de cumplimiento normativo “compliance-first”.
Según Janet Bastiman, Directora Científica de Datos en Napier AI, “La validación de los resultados de la IA en el cumplimiento normativo bajo la supervisión de la FCA es un proceso continuo que requiere transparencia, validación y rendición de cuentas”.