Título
[pt] AVALIANDO TÉCNICAS PARA A REFLEXÃO ÉTICA E COMUNICAÇÃO SOBRE MODELOS DE APRENDIZADO DE MÁQUINAS PARA DESENVOLVEDORES
Título
[en] EVALUATING APPROACHES FOR DEVELOPERS ETHICAL REASONING AND COMMUNICATION ABOUT MACHINE LEARNING MODELS
Autor
[pt] JOSE LUIZ NUNES
Vocabulário
[pt] APRENDIZADO DE MAQUINA
Vocabulário
[pt] TRANSPARENCIA
Vocabulário
[pt] TEMPLATE DE METACOMUNICACAO ESTENDIDO
Vocabulário
[pt] MODEL CARDS
Vocabulário
[pt] AVALIACAO DE MODELOS
Vocabulário
[pt] CONSIDERACOES ETICAS
Vocabulário
[pt] ENGENHARIA SEMIOTICA
Vocabulário
[en] MACHINE LEARNING
Vocabulário
[en] TRANSPARENCY
Vocabulário
[en] EXTENDED METACOMMUNICATION TEMPLATE
Vocabulário
[en] MODEL CARDS
Vocabulário
[en] MODEL EVALUATION
Vocabulário
[en] ETHICAL REASONING
Vocabulário
[en] SEMIOTIC ENGINEERING
Resumo
[pt] O uso de modelos de aprendizado de máquina se tornou ubíquo para
um leque diverso de tarefas. Contudo, ainda não há nenhuma forma estabelecida
para refletir sobre questões éticas em seu processo de desenvolvimento.
Neste trabalho, realizamos um estudo qualitativo para avaliar duas técnicas
propostas pela literatura para auxiliar desenvolvedores a refletirem sobre
questões éticas relacionadas à construção e uso de modelos de aprendizado
de máquina: (i) Model Cards; e o (ii) Template Estendido de Metacomunicação.
Apresentamos nossos resultados a respeito do uso do Model Card
pelos participantes, com o propósito de entender como esses atores interagiram
com a ferramenta, assim como a dimensão ética de sua reflexão durante
nossas entrevistas. Nosso objetivo é melhorar técnicas para desenvolvedores
disponibilizaram informações sobre seus modelos e que a reflexão ética
sobre os sistemas que desenvolveram. Além disso, nosso trabalho tem como
objetivo contribuir para o desenvolvimento de um uso mais justo e ético de
sistemas de aprendizado de máquina.
Resumo
[en] Machine learning algorithms have become widespread for a wide
array of tasks. However, there is still no established way to deal with the
ethical issues involved in their development and design. Some techniques
have been proposed in the literature to support the reflection and/or
documentation of the design and development of machine learning models,
including ethical considerations, such as: (i) Model Cards and (ii) the
Extended Metacommunication Template. We conducted a qualitative study
to evaluate the use of these tools. We present our results concerning the use
of the Model Card by participants, with the objective of understanding how
these actors interacted with the relevant tool and the ethical dimension of
their reflections during our interviews. Our goal is to improve and support
techniques for developers to disclose information about their models and
reflect ethically about the systems they design. Furthermore, we aim to
contribute to the development of a more ethically informed and fairer use
of machine learning.
Orientador(es)
SIMONE DINIZ JUNQUEIRA BARBOSA
Coorientador(es)
CLARISSE SIECKENIUS DE SOUZA
Banca
HELIO CORTES VIEIRA LOPES
Banca
SIMONE DINIZ JUNQUEIRA BARBOSA
Banca
CLARISSE SIECKENIUS DE SOUZA
Banca
EDGAR DE BRITO LYRA NETTO
Catalogação
2021-11-30
Apresentação
2021-10-01
Tipo
[pt] TEXTO
Formato
application/pdf
Idioma(s)
INGLÊS
Referência [pt]
https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=56260@1
Referência [en]
https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=56260@2
Referência DOI
https://doi.org/10.17771/PUCRio.acad.56260
Arquivos do conteúdo
NA ÍNTEGRA PDF