Desenvolvimento de uma Abordagem de Explicabilidade de Modelos de Aprendizado de Máquina para Aplicações Industriais

Resumo

Inteligência Artificial (IA) , incluindo aprendizagem automática e profunda, são amplamente adotados para a tomada de decisões. No entanto, uma grande desvantagem, é a sua incapacidade de explicar as suas decisões de uma forma que os humanos possam compreendê-las facilmente, exigindo a necessidade de melhorar a interpretabilidade e a fiabilidade a partir da perspectiva do utilizador – um aspecto crucial para a sua adoção em larga escala (TIDDI, I.; SCHLOBACH, S.. 2022)
Neste contexto, a explicabilidade tornou-se importante área de pesquisa para superar os desafios em abordar a complexidade e a compreensibilidade dos sistemas de (IA). Com isso, a IA explicável (XAI) surge como um campo emergente que se refere a métodos e técnicas que permitem aos especialistas compreender as decisões tomadas por algoritmos de IA utilizando três critérios: precisão da previsão, compreensão ou confiança da decisão e rastreabilidade (ZHANG, Z.; YILMAZ, L.; LIU, B. 2024).
Dado à necessidade de aumentar a explicabilidade dos resultados das técnicas de IA, o presente trabalho propõe o desenvolvimento de uma abordagem para melhorar a explicabilidade de modelos computacionais no contexto da indústria.
Em relação aos procedimentos metodológicos da pesquisa serão utilizados uma pesquisa preliminar de revisão sistemática da literatura (RSL) que será realizada com o objetivo de aprofundar o conhecimento acerca do tema. Na etapa seguinte será desenvolvida a parte quantitativa, envolvendo a escolha e pré-processamento dos dados, a seleção dos modelos e análise dos respectivos resultados de desempenho, e por fim, a análise da melhor abordagem de aplicar a explicabilidade, permitindo para o especialista de domínio o entendimento do resultado encontrado nos modelos.
Como resultado obtido até o momento tem-se a aplicação do protocolo da RSL guiada pelo método PRISMA e o artigo  “A systematic review of systematic review process research in software engineering” (KITCHENHAM, B.; BRERETON, P. 2013). Inicalmente foi aplicada em quatro fontes de busca a seguinte string: (“systematic review” OR ”systematic mapping”) AND (“Explainable Artificial Intelligence” OR ”XAI”) AND (“Artificial Intelligence” OR “Machine Learning”). Com essa string foram retornados ao todo 69 artigos, no entanto ao aplicar os critériso de inclusão e exclusão restaram apenas 9 artigos. Os mesmos serão lidos por completos para responder as seguintes questões de pesquisa:
 
RQ1: Quais artigos relatam o progresso do XAI durante o período 2020 - 2024?
RQ2: Quais problemas os pesquisadores observaram ao usar XAI?
RQ3: Quais conselhos ou técnicas relacionadas à realização de XAI foram propostas
e quão fortes são as evidências que os apoiam?
RQ4: Até que ponto os estudos confirmaram as afirmações existentes sobre XAI?
 
Contudo, almeja-se que ao final desta pesquisa seja desenvolvido uma abordagem capaz de auxiliar especialistas de domínio da área industrial, a interpretar com facilidade os resultados obtidos e os fatores responsáveis por tal resultado. Gerando nesses usuários, uma maior confiabilidade e segurança na tomada de decisão.
 
Palavras-chave: Explicabilidade; Indústria; Especialista de domínio; Inteligência Artficial.
 
Referências
 
 
TIDDI, I.; SCHLOBACH, S. Knowledge graphs as tools for explainable machine learning: A survey. Artificial Intelligence, [s. l.], v. 302, p. 103627, 2022. Disponível em: Acesso at: 31 Jul. 2024. ​
ZHANG, Z.; YILMAZ, L.; LIU, B. A Critical Review of Inductive Logic Programming Techniques for Explainable AI. IEEE Transactions on Neural Networks and Learning Systems, [s. l.], p. 1–17, 2024. Disponível em: Acesso at: 30 Jul. 2024.
 
KITCHENHAM, B.; BRERETON, P. A systematic review of systematic review process research in software engineering. Information and Software Technology, [s. l.], v. 55, n. 12, p. 2049–2075, 2013. Disponível em: Acesso at: 30 Jul. 2024.