A study about Explainable Articial Intelligence: using decision tree to explain SVM (2020)
- Authors:
- USP affiliated authors: DIGIAMPIETRI, LUCIANO ANTONIO - EACH ; VIEIRA, CARLA PIAZZON RAMOS - EACH
- Unidade: EACH
- DOI: 10.5335/rbca.v12i1.10247
- Subjects: INTELIGÊNCIA ARTIFICIAL; APRENDIZADO COMPUTACIONAL
- Language: Inglês
- Abstract: As tecnologias baseadas em Inteligência Artificial (IA) avançaram rapidamente nos últimos e anos e a IA está se tornando comum em todos os aspectos da vida, como o futuro dos carros autônomos ou agilidade em diagnósticos médicos. Para que isso ocorra, toda a comunidade está diante da barreira da explicabilidade, um problema inerente às mais recentes técnicas trazidas por modelos mais complexos de aprendizado máquina (por exemplo, redes neurais profundas) que não estavam presentes na última onda de IA (modelos baseados em regras). A maioria desses modelos mais recentes é usada como caixa preta, sem entender parcialmente ou até completamente como diferentes características influenciam nas predições do modelo, evitando a transparência algorítmica. Este artigo foca na identificação da melhor maneira de entender as decisões tomadas por um classificador SVM em uma abordagem agnóstica post-hoc. Além disso, treinamos um modelo baseado em árvore de decisão (inerentemente interpretável) usando rótulos do SVM, chamado de dado secundário de treinamento, para fornecer explicações e comparar a importância das características por meio do método de permutação com as métricas mais usadas, como acurácia, e mostrar que nossos métodos e técnicas são mais significativos. Também delineamos os principais desafios de tais métodos e concluímos que a interpretabilidade post-hoc é um componente essencial para tornar o aprendizado de máquina mais confiável
- Imprenta:
- Publisher place: Passo Fundo
- Date published: 2020
- Source:
- Título do periódico: Revista Brasileira de Computação Aplicada
- ISSN: 2176-6649
- Volume/Número/Paginação/Ano: v. 12, n. 1, p. 113-121, abr. 2020
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by
-
ABNT
VIEIRA, Carla Piazzon Ramos e DIGIAMPIETRI, Luciano Antonio. A study about Explainable Articial Intelligence: using decision tree to explain SVM. Revista Brasileira de Computação Aplicada, v. 12, n. 1, p. 113-121, 2020Tradução . . Disponível em: https://doi.org/10.5335/rbca.v12i1.10247. Acesso em: 30 abr. 2024. -
APA
Vieira, C. P. R., & Digiampietri, L. A. (2020). A study about Explainable Articial Intelligence: using decision tree to explain SVM. Revista Brasileira de Computação Aplicada, 12( 1), 113-121. doi:10.5335/rbca.v12i1.10247 -
NLM
Vieira CPR, Digiampietri LA. A study about Explainable Articial Intelligence: using decision tree to explain SVM [Internet]. Revista Brasileira de Computação Aplicada. 2020 ; 12( 1): 113-121.[citado 2024 abr. 30 ] Available from: https://doi.org/10.5335/rbca.v12i1.10247 -
Vancouver
Vieira CPR, Digiampietri LA. A study about Explainable Articial Intelligence: using decision tree to explain SVM [Internet]. Revista Brasileira de Computação Aplicada. 2020 ; 12( 1): 113-121.[citado 2024 abr. 30 ] Available from: https://doi.org/10.5335/rbca.v12i1.10247 - Machine learning post-hoc interpretability: a systematic mapping study
- Uso de agrupamento para alcançar explicabilidade global de modelos de aprendizado de máquina
- Facial emotion recognition in UX evaluation: a systematic review
- Um sistema de informação extensível para o reconhecimento automático de LIBRAS
- BraX-Ray: an X-Ray of the Brazilian Computer Science Graduate Programs
- Dinâmica das relações de coautoria nos programas de pós-graduação em computação no Brasil
- Caracterização dos programas de pós-graduação em bioinformática no Brasil
- Predição de novas coautorias na rede social acadêmica dos programas brasileiros de pós-graduação em ciência da computação
- Um sistema de predição de relacionamentos em redes sociais
- Análise da evolução das relações de coautoria nos programas de pós-graduação em computação no Brasil
Informações sobre o DOI: 10.5335/rbca.v12i1.10247 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
