Mikel Galar Idoate, investigador del Instituto de Smart Cities (ISC) de la Universidad Pública de Navarra (UPNA), ha sido uno de los tres ponentes invitados al ciclo de conferencias organizado para conmemorar el 40.º aniversario del nacimiento de la Asociación Española para la Inteligencia Artificial (AEPIA). El también profesor del Departamento de Estadística, Matemáticas e Informática ha dedicado su ponencia a los sesgos de la inteligencia artificial, que, según ha explicado, son aquellos patrones no deseados que pueden aparecer tanto en los datos con los que se entrenan los modelos de inteligencia artificial como en los resultados o las decisiones que esta realiza basándose en el conocimiento adquirido a partir de dichos datos. Estas predisposiciones o parcialidades pueden llevar a resultados injustos o discriminatorios.
“Este tipo de patrones indeseados suelen basarse en características protegidas de las personas, como el género, la raza o la edad, que son inherentes e inmutables —explica Mikel Galar—. Los sesgos pueden provenir de diferentes puntos del proceso de aprendizaje automático; los más típicos son los sesgos en los conjuntos de datos. Estos pueden originarse en el proceso de selección de la población utilizada en el conjunto de datos o en las medidas que se toman”.
Según este experto, los sesgos de selección pueden ser de dos tipos: representacionales y estereotípicos. Los primeros se refieren a “una desproporción en la representación de los grupos demográficos, como, por ejemplo, más hombres que mujeres o más personas blancas”. Los segundos, que, “aunque menos estudiados pueden ser más perjudiciales”, hacen referencia a “la representación de ciertos estereotipos”. “Cuando se trabaja en el reconocimiento de expresiones faciales, es típico encontrarse con que las mujeres tienden a aparecer más felices en los conjuntos de datos y los hombres, más enfadados. Esto puede llevar a los modelos a asociar incorrectamente la felicidad con las mujeres y el enfado con los hombres”, indica.
Por tanto, estos sesgos en los conjuntos de datos se transfieren a los modelos de inteligencia artificial, que se entrenan con ellos y “aprenden los patrones presentes en ellos, incluyendo los indeseados o sesgos”. “Si los datos de entrenamiento contienen sesgos, estos pueden ser capturados y reproducidos por los modelos durante el proceso de aprendizaje —señala Mikel Galar—. Por ejemplo, en el caso de que un conjunto de datos de reconocimiento de expresiones faciales tenga más imágenes de mujeres felices y hombres enfadados, el modelo puede aprender a asociar estas características demográficas con ciertas emociones. Así, cuando se le presenta una nueva imagen, el modelo puede tender a predecir felicidad para mujeres y enfado para hombres, perpetuando así los sesgos presentes en los datos de entrenamiento”. Los sesgos en inteligencia artificial pueden ser combatidos, por ejemplo, recolectando datos diversos y representativos, diseñando algoritmos justos, realizando auditorías y evaluaciones continuas, organizando equipos diversos de desarrollo o introduciendo ciertas regulaciones.
En su conferencia, Mikel Galar ha analizado los sesgos demográficos de la inteligencia artificial basándose en su experiencia como investigador principal en el proyecto Emotional Films. Esta iniciativa ha desarrollado una tecnología que utiliza la inteligencia artificial para adaptar el contenido audiovisual que ve un espectador en función de sus respuestas emocionales. De ahí la necesidad de procesar conjuntos de datos de reconocimiento de expresiones faciales.
La Asociación Española para la Inteligencia Artificial (AEPIA), organizadora de la conferencia, es una entidad dedicada a potenciar y fomentar el desarrollo de la inteligencia artificial, tanto en el ámbito español como en el iberoamericano. Fundada en 1984, reúne a casi 550 socios, tanto instituciones como personas. En el ámbito de la investigación, es la editora, junto a la editorial Springer, de la revista “Progress in Artificial Intelligence”.
Además de Mikel Galar, la Asociación Española para la Inteligencia Artificial ha invitado como ponentes de su ciclo de conferencias a Concha Bielza Lozoya, catedrática de la Universidad Politécnica de Madrid, y Francisco Herrera Triguero, catedrático de la Universidad de Granada.
