Explaining classification outcomes through geometric generation of counterfactual examples with data structures and graphs

Abstract

A característica que mais diferencia os seres humanos de quaisquer outras entidades conhecidas reside no arsenal cognitivo proporcionado pela mente que é instanciada em seu complexo cérebro. Esse conjunto de ferramentas cognitivas dos seres humanos compreende o que se denomina de inteligência. Um aspecto fundamental da inteligência humana é a capacidade de conduzir investigações e descobertas científicas, trazendo inúmeros benefícios à humanidade, desde tratamentos médicos até tecnologias de exploração espacial. Para facilitar, disseminar e amplificar o uso das capacidades cognitivas humanas, pesquisadores têm buscado automatizar esses processos por meio da Inteligência Artificial (IA). Esses esforços, amparados pela tecnologia atual, estão revolucionando a pesquisa científica, tornando-a mais rápida e descentralizada, sobretudo com o uso das IA Generativas (Gen-AI). No entanto, para que modelos de IA sejam amplamente adotados a processos de descoberta científica e em aplicações de missão-crítica, é imprescindível torná-la compreensível aos seres humanos, o que é o foco da Inteligência Artificial Explicável (XAI). Diversas técnicas foram desenvolvidas para prover interpretabilidade a modelos de IA, como a geração de regras lógicas simbólicas, interpretações por meio de gráficos e imagens, descrição da importância das variáveis e análises por meio do uso de amostras (exemplos), destacando-se a Análise Contrafactual. A análise contrafactual beneficia modelos de IA em aspectos como análise do comportamento do modelo, verificação de erros, avaliação de equidade e vieses, incremento de dados, extração de regras simbólicas, estudos de otimização, além de fornecer subsídios para ajustar dados de amostras de modo que se obtenha uma saída (predição) distinta do modelo. Este trabalho investiga o uso de estruturas geométricas, especialmente o grafo de Gabriel, para balizar a realização de análises contrafactuais. O grafo de Gabriel permite representar a similaridade entre as amostras de um conjunto de dados e é adotado para direcionar a criação de exemplos contrafactuais sob diferentes restrições e comportamentos das dimensões espaciais. A ideia central é selecionar estrategicamente pontos reais de referência baseando-se na estrutura geométrica do grafo associada às métricas estatísticas das amostras. Uma vez selecionada a amostra de referência, pode-se escolher diferentes estratégias de criação das novas instâncias contrafactuais. A avaliação da abordagem com conjuntos de dados reais evidenciou a eficácia do uso de estruturas de dados baseadas no grafo de Gabriel na geração de exemplos contrafactuais e ressaltou o potencial de estruturas geométricas em iniciativas de explicabilidade. Contudo, a área ainda demanda esforços adicionais, especialmente no desenvolvimento de algoritmos para lidar com dados complexos e de elevada dimensionalidade.