[en] A CRITICAL VIEW ON THE INTERPRETABILITY OF MACHINE LEARNING MODELS

[pt] UMA VISÃO CRÍTICA SOBRE A INTERPRETABILIDADE DE MODELOS DE APRENDIZADO DE MÁQUINA

[pt] JORGE LUIZ CATALDO FALBO SANTO

[pt] APRENDIZADO DE MAQUINA

[pt] TRANSPARENCIA DE ALGORITIMO

[pt] ALGORITMO INTERPRETAVEL

[pt] EXPLANABILIDADE DE MODELO

[pt] INTERPRETABILIDADE DE MODELO

[pt] INTELIGENCIA ARTIFICIAL EXPLICAVEL

[pt] INTELIGENCIA ARTIFICIAL

[en] MACHINE LEARNING

[en] ALGORITHMIC TRANSPARENCY

[en] INTERPRETABLE ALGORITHM

[en] EXPLAINABILITY OF MODEL

[en] INTERPRETABILITY OF MODELS

[en] EXPLAINABLE AI

[en] ARTIFICIAL INTELLIGENCE

[pt] À medida que os modelos de aprendizado de máquina penetram áreas críticas como medicina, sistema de justiça criminal e mercados financeiros, sua opacidade, que impede que as pessoas interpretem a maioria deles, se tornou um problema a ser resolvido. Neste trabalho, apresentamos uma nova taxonomia para classificar qualquer método, abordagem ou estratégia para lidar com o problema da interpretabilidade de modelos de aprendizado de máquina. A taxonomia proposta que preenche uma lacuna existente nas estruturas de taxonomia atuais em relação à percepção subjetiva de diferentes intérpretes sobre um mesmo modelo. Para avaliar a taxonomia proposta, classificamos as contribuições de artigos científicos relevantes da área.

[en] As machine learning models penetrate critical areas like medicine, the criminal justice system, and financial markets, their opacity, which hampers humans ability to interpret most of them, has become a problem to be solved. In this work, we present a new taxonomy to classify any method, approach or strategy to deal with the problem of interpretability of machine learning models. The proposed taxonomy fills a gap in the current taxonomy frameworks regarding the subjective perception of different interpreters about the same model. To evaluate the proposed taxonomy, we have classified the contributions of some relevant scientific articles in the area.

SIMONE DINIZ JUNQUEIRA BARBOSA

BRUNO FEIJO

SIMONE DINIZ JUNQUEIRA BARBOSA

MARCUS VINICIUS SOLEDADE POGGI DE ARAGAO

2019-07-29

2018-10-01

[pt] TEXTO

application/pdf

INGLÊS

https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=42398@1

https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=42398@2

https://doi.org/10.17771/PUCRio.acad.42398