Inteligencia artificial explicable

La inteligencia artificial está revolucionando todos los sectores de actividad, incluido el de la información sobre empresas para la toma de decisiones. En estos momentos, nos encontramos ante una confluencia de varios factores que hacen posible aplicar la inteligencia artificial explicable a la industria financiera.

El incremento de la capacidad de almacenamiento, el de proceso y la interconexión de sistemas, conforman un entorno que permite que algoritmos que existen desde hace décadas y que, hasta ahora eran inviables por restricciones técnicas, actualmente sean realizables, explotables y, además, con unos costes asumibles.

Esto implica muchos cambios y los tiempos de cambio siempre generan incertidumbre, algo que para la seguridad y la confiabilidad no suelen ser buenas noticias. En realidad, son retos. De cómo seamos capaces de generar las preguntas adecuadas y de cómo seamos capaces de crear los entornos para que las respuestas se activen, dependerá en gran medida el futuro de los sistemas que se están construyendo.

La inteligencia artificial explicable o la explicabilidad de la IA

La inteligencia artificial explicable (XAI) es el área de la inteligencia artificial que se encarga de presentar el aprendizaje de las máquinas como un proceso comprensible para el ser humano

Carlos Fernández Inigo, CTO Informa D&B

Conceptualmente, la inteligencia artificial explicable (XAI) hace referencia a los procesos y métodos que permiten a las personas comprender los resultados obtenidos por algoritmos de machine learning, y, por ende, confiar en dichos resultados.

La XAI representa un área de creciente interés en los ámbitos de la inteligencia artificial y del aprendizaje automático. Además, un hecho diferenciador es que la explicabilidad de la inteligencia artificial se relaciona con los aspectos éticos e incluso legales de la IA.

Dicho de otro modo, la explicabilidad sería uno de los diversos principios éticos que puede contribuir a que la IA sea más confiable. Bajo el criterio de la explicabilidad, clasificamos los algoritmos “caja blanca” o “caja negra”. Los primeros no necesitan una explicación, ya que tiene una explicabilidad intrínseca. En cambio, los segundos sí requieren una explicación para poder comprender la toma de decisiones ejecutada.

Partir de una buena base para alcanzar la explicabilidad

Desde INFORMA, en colaboración con nuestros partners tecnológicos, desarrollamos y ofrecemos soluciones para afrontar y superar los retos que se plantean actualmente en la industria de la información financiera-comercial y aplicar la inteligencia artificial explicable a la toma de decisiones.

Y, en este contexto, es importante diferenciar cuatro aspectos que contribuyen a crear las soluciones que estamos planteando:

• Por un lado, tenemos la capacidad de crear nuevos elementos de información que, a partir de datos primarios, generan señales básicas de alarma. Per se, estos datos no señalan un fraude, pero son como una luz que se enciende en un panel. Estos datos nacen de un contraste que normalmente requiere un esfuerzo de computación o el uso de reglas de inferencia complejas.
• Estos datos se complementan con la información existente sobre las empresas. Datos históricos, financieros, de interrelación con otras empresas, de sostenibilidad. Un universo informativo que sirve como condimento para la creación del modelo. Por supuesto, tendremos que añadir aquellos datos que cada cliente aporte a partir de su propia experiencia y de los factores que han determinado sus incidencias previas de fraude.
• A continuación, entran en funcionamiento los modelos de decisión. Sistemas que mezclan todos los datos globales, particulares, de gestión de cada negocio y las variables anteriormente mencionadas. Es la “magia” en la que los factores de la IA juegan con su total preponderancia.
• Finalmente, tenemos la innovación. El reto que nos planteamos. ¿Cómo conseguir que modelos generados a partir de sistemas de auto aprendizaje generen no solo un resultado sino una explicación comprensible y aceptable?

Las soluciones de INFORMA de IA explicable

Por todo ello, incorporar la tecnología IA explicable a nuestro negocio es fundamental. Para ello, INFORMA ha llegado a un acuerdo estratégico con Fujitsu. Esta colaboración persigue facilitar la toma de decisiones de las empresas a través de la IA explicable, para evitar problemas de riesgo y fraude que puedan afectar a su negocio.

El valor de la tecnología de IA explicable sobre la IA tradicional reside en que abordar el llamado fenómeno de la «caja negra» en la IA, proporcionando la base de las predicciones y conclusiones hechas la tecnología para aumentar la comprensión, la transparencia y la confianza.

En este sentido, la tecnología proporciona información sobre cómo se toman las decisiones y valida los resultados esperados, identificando sesgos y valores atípicos o problemas que requieren más investigación. Esto garantiza que las decisiones se tomen de forma imparcial y se basen en información precisa, lo que refuerza la fiabilidad de los resultados al tiempo que mitiga la posibilidad de sesgos o conclusiones inexactas.

Además, el uso de la tecnología de IA explicable aporta numerosos beneficios como mejorar el rendimiento de la IA y reducir los problemas de sesgo derivados del análisis de la calidad de los datos. También facilita la rendición de cuentas auditable y garantiza el cumplimiento ético de las normas del sector. Y ayuda a comprender por qué y cómo detectar riesgos o fraudes y reduce los fallos positivos al aumentar la transparencia.

Para INFORMA, el reto de aplicar XAI a modelos en los que su Base de Datos es el elemento esencial, constituye un hito relevante y un salto cualitativo en el marco de las soluciones que se ofrecen, basadas siempre en la innovación, la fiabilidad y la transparencia para reducir riesgos y facilitar la toma de decisiones correctas en los negocios.