Inteligencia humana contra la idiotez artificial

Detectar algoritmos machistas, racistas o LGTBIfóbicos. Explicar cómo funciona la inteligencia artificial. Y aumentar la confianza en los modelos  matemáticos. Esta es la revolucionaria idea de tres jóvenes españoles que han fundado EXPAI, la primera startup de toda Europa especializada en  combatir los peligros, la falta de transparencia y los retos de la inteligencia  artificial. “El futuro ya está aquí y no estamos preparados”, afirman en un comunicado.

En 2014, Amazon comenzó a usar un algoritmo para ahorrar tiempo a la hora de contratar personal. La herramienta de la compañía prometía ser más rápida y objetiva. El problema, cuentan estos jóvenes, es que la inteligencia artificial había sido entrenada con los datos sobre las solicitudes de empleo de los últimos 10 años, un periodo en el que la mayoría de los programadores contratados habían sido hombres.

El algoritmo aprendió, por lo tanto, que los mejores candidatos tenían que ser hombres y, cuando detectaba un currículum de una mujer, lo penalizaba. Amazon tardó un año en darse cuenta de que  estaba empleando una herramienta que reproducía un sesgo machista.

El caso de Amazon no es un hecho aislado, afirman. Cada día, miles de empresas y  administraciones dejan en manos de los algoritmos millones de decisiones que reproducen discriminaciones. Por eso, la startup EXPAI ha creado una metodología para detectar y corregir estos sesgos de forma rápida, visual e intuitiva.

Los algoritmos sesgados no solo perpetúan una injusticia social, sino que también generan unos resultados negativos para las empresas y las administraciones, ya que el algoritmo no toma la decisión más óptima”,  explica Javier Rando. Este joven malagueño estudia Ingeniería Matemática en Ciencia de Datos en la Universidad Pompeu Fabra (UPF) de Barcelona y se ha convertido en uno de los fundadores de EXPAI con tan solo 22 años.

Los algoritmos son “cajas negras” 

Hoy en día, las empresas ponen en manos de la inteligencia artificial los  procesos de contratación, la concesión de préstamos o la estrategia de ventas. El peligro de dejar estas decisiones a merced de los algoritmos es su falta de transparencia. “Se suele decir que los algoritmos son cajas negras: sabes lo que entra, sabes lo que sale, pero nunca sabes lo que pasa dentro.

En EXPAI han desarrollado una metodología para explicar  lo que sucede en su interior y conocer detalladamente los motivos que han llevado al algoritmo a tomar cada una de sus decisiones”, señala Rando.

La importancia de explicar la inteligencia artificial 

Pero la startup con sede en Barcelona no solamente trabaja en la creación  de herramientas matemáticas basadas en la justicia social, sino también en la mejora de la eficiencia y la comprensión de la inteligencia artificial.

“Cuando una empresa implementa un sistema de inteligencia artificial lo hace porque,  generalmente, quiere agilizar y perfeccionar un determinado proceso. El problema es que, debido a la opacidad y la complejidad de los algoritmos, no siempre entiende el funcionamiento del modelo. Es decir, la empresa gana  velocidad, pero pierde capacidad para entender por qué ha tomado una u otra decisión”, advierte el logroñés de 21 años Pablo Vitoria, cofundador de EXPAI y estudiante de International Business Economics en la UPF.

La metodología de EXPAI permite a las empresas y las administraciones  verificar que sus modelos matemáticos funcionan correcta o incorrectamente  e identificar errores o sesgos, pero también potencialidades para sacar el  máximo partido a los algoritmos.

El canario de 26 años Daniel Hormigo,  ingeniero de datos y cofundador de EXPAI, pone el énfasis en la importancia  de explicar el funcionamiento de la inteligencia artificial: “Trabajé en una empresa que usaba un algoritmo para identificar las probabilidades de que  un cliente contratase un nuevo producto. Sin embargo, el equipo comercial  desconfiaba del modelo porque no entendían su funcionamiento y, al  final, dejaron de usarlo para seguir con técnicas más lentas e imprecisas”.

Los fundadores de EXPAI creen que las empresas no se pueden permitir más  ejemplos como este ni como el de Amazon: “La diferencia entre entender  cómo funciona la inteligencia artificial y desconocer sus peligros es la posibilidad, por un lado, de perpetuar discriminaciones y, por otro, de gastar recursos económicos y tiempo de forma ineficiente. En EXPAI trabajamos  por una inteligencia artificial más comprensible, segura y justa”.