En este artículo veremos cómo es posible minimizar los efectos negativos de los algoritmos black-box o de caja negra. ¡Vamos allá! 👇
¿Qué son los algoritmos black-box o de caja negra?
Seguro que habréis escuchado o leído el término black-box o caja negra más de una vez en el ámbito del desarrollo software. Pues bien, este concepto se refiere a cuando un sistema es visto principalmente por sus características de entrada y salida, es decir, sabemos qué entra y qué sale, pero no lo que ocurre dentro. Por lo tanto, un algoritmo de caja negra es aquel en el cual el usuario no puede ver su funcionamiento interno.
Entenderéis que en el entorno actual en el que se valora tanto la transparencia y en algunos casos hasta es exigida por ciertas normativas o reglamentos, este tipo de sistema sea bastante polémico.
Algunos de los algoritmos black.box más conocidos son el algoritmo de búsquedas de Google, el modelo de recomendaciones de Netflix o los algoritmos de prioridad de publicaciones en redes sociales como Facebook, Instagram o LinkedIn.
Problemas de los algoritmos de caja negra
Es un hecho que los algoritmos han adquirido un rol cada vez más importante en nuestras vidas y que muchas veces apoyan o incluso toman decisiones por nosotros. Siguiendo los ejemplos de algoritmos black-box que nombrábamos en el punto anterior, ellos deciden qué vemos en los muros de las redes sociales, qué nos recomienda Netflix o qué aparecerá cuando busquemos un término en Google. ¿Por qué nos muestran esa información y no otra? ¿Cómo han llegado hasta ahí? El hermetismo de estos sistemas hace imposible conocer estas respuestas con certeza. Este es el principal problema: la falta de transparencia.
Pero vayamos más allá. Los algoritmos pueden llegar incluso a ser los responsables de decisiones que cambien nuestras vidas. Por ejemplo, ser o no seleccionado para un trabajo, que nos acepten o no una hipoteca o una póliza de seguro, etc. El hecho de que las decisiones de los algoritmos puedan influir de manera tan directa en nuestras vidas agrava el punto de falta de transparencia y la polémica sobre la ética en la Inteligencia Artificial.
Otro problema que podemos encontrar es que las bases de datos utilizadas para entrenar los algoritmos contengan sesgos o no sean lo suficientemente diversas. Un hecho potencialmente peligroso, ya que como comentábamos más arriba, estos sesgos pueden afectar a decisiones como la escolaridad, el seguro médico, o el registro criminal. Los ciudadanos deberían saber por qué se toman ciertas decisiones, y muchas veces con los algoritmos de caja negra es una tarea bastante complicada.
Aportando explicabilidad a los algoritmos black-box o de caja negra
La buena noticia es que existe una manera de solucionar ese problema de transparencia de los algoritmos de caja negra, y es a través de la combinación de estos modelos con algoritmos con una mayor interpretabilidad como son los motores de inferencia, normalmente utilizados por BRMS (Business Rules Management Systems) para la toma de decisiones en base a reglas de negocio. Veámoslo más claro a través de un ejemplo:
Una entidad bancaria cuenta con un modelo de scoring de riesgo que calcula la capacidad futura de pago de los clientes. La compañía puede decidir si utilizar ese modelo para conceder o denegar directamente las hipotecas. En este caso, si un cliente al que le han denegado una hipoteca pide explicaciones sobre la razón por la cual no se le ha concedido, no sabremos el motivo. Únicamente conoceremos la puntuación concreta que le ha otorgado el modelo de acuerdo con los datos proporcionados por el cliente.
Sin embargo, si la entidad combina este tipo de modelos predictivos con un BRMS, el scoring inicial de riesgo de cada cliente se utilizaría como un dato más a tener en cuenta en un servicio de decisión BRMS. De esta manera, el análisis predictivo del riesgo es un gran apoyo a la decisión, pero no es el propio algoritmo de caja negra el que determinaría si otorgar o no la hipoteca. Aunque con una mayor ayuda, la toma de decisiones seguiría quedando bajo control humano.
Si las reglas de un servicio de decisión BRMS supervisan este tipo de algoritmos, podemos disponer en todo momento de la trazabilidad de las decisiones tomadas, garantizando el cumplimiento de las normativas vigentes y las directrices internas de las compañías.
Si tienes alguna duda sobre cómo podrías mejorar tus decisiones operativas gracias a este tipo de herramientas, no dudes en contactar con nosotros. También puedes seguirnos en las redes sociales (Linkedin, Twitter, Youtube).
