Publication
Overcoming algorithmic bias : the role of bias awareness, knowledge, and minority status on human decision-making
| datacite.subject.fos | Ciências Sociais::Economia e Gestão | pt_PT |
| dc.contributor.advisor | Almeida, Ana Filipa Martinho de | |
| dc.contributor.author | Marques, Tiago José Freitas | |
| dc.date.accessioned | 2021-10-04T13:45:52Z | |
| dc.date.available | 2021-10-04T13:45:52Z | |
| dc.date.issued | 2021-04-26 | |
| dc.date.submitted | 2021-04 | |
| dc.description.abstract | Algorithms, whether augmenting or automating human decisions, are used by an increasing number of organizations to execute several tasks. Algorithms create value because they can analyse massive volumes of data, explore, and identify nonlinear and counterintuitive relationships, being more consistent with their decisions than humans. However, this decision-making process also has the potential to perpetuate and exacerbate historical and societal biases, since the algorithms are trained on data that reflect human biases. This dissertation reviews the limitations and associated challenges of human and algorithmic decision-making and explores how human decision-making can be leveraged to address and mitigate the harmful effects of algorithmic bias. Particularly, this dissertation explores the effects of being aware of biased decision-making, being knowledgeable in Artificial Intelligence (AI), and belonging to a minority, on human’s ability to perceive and include potentially biasing variables that lead to unfair and discriminatory algorithmic decisions. The results suggest that a simple intervention of bias awareness can be an effective debiasing strategy; being AI knowledgeable can help to perceive the potential for bias, yet it does not necessarily translate to exclude potential sources of algorithmic bias; belonging to a minority may not be an advantageous factor to improve decision-making. Therefore, the solution proposed by this dissertation to overcome algorithmic bias lies in promoting bias awareness as a viable strategy to improve human decision-making. | pt_PT |
| dc.description.abstract | Algoritmos, seja para aumentar ou automatizar decisões humanas, são utilizados por um número crescente de organizações para executar várias tarefas. Os algoritmos criam valor porque permitem analisar volumes massivos de dados, explorar e identificar relações não lineares e contraintuitivas, sendo mais consistentes nas suas decisões do que os humanos. No entanto, esse processo de tomada de decisão também tem o potencial de perpetuar e exacerbar enviesamentos históricos e sociais, uma vez que os algoritmos são treinados com dados que refletem enviesamentos humanos. Esta tese analisa as limitações e desafios associados à tomada de decisão humana e algorítmica e explora como a tomada de decisão humana pode ser alavancada para abordar e mitigar os efeitos prejudiciais do enviesamento algorítmico. Particularmente, esta tese investiga os efeitos da consciência de enviesamentos da tomada de decisão, de ser conhecedor de inteligência artificial, e pertencer a uma minoria, na capacidade humana de perceber e incluir variáveis potencialmente tendenciosas que levam a decisões algorítmicas injustas e discriminatórias. Os resultados sugerem que uma intervenção simples de conscientização de enviesamento pode ser uma estratégia eficaz de redução de enviesamentos; ter conhecimento de inteligência artificial pode ajudar a detetar potenciais enviesamentos, mas não se traduz, necessariamente, em excluir fontes potenciais de enviesamento algorítmico; pertencer a uma minoria pode não ser um fator vantajoso para melhorar a tomada de decisão. Assim, a solução proposta por esta tese para superar o enviesamento algorítmico consiste em promover a consciência do enviesamento como uma estratégia viável para melhorar a tomada de decisão humana. | pt_PT |
| dc.identifier.tid | 202728625 | pt_PT |
| dc.identifier.uri | http://hdl.handle.net/10400.14/35384 | |
| dc.language.iso | eng | pt_PT |
| dc.subject | Algorithmic bias | pt_PT |
| dc.subject | Cognitive bias | pt_PT |
| dc.subject | Human decision-making | pt_PT |
| dc.subject | Algorithmic decision-making | pt_PT |
| dc.subject | Debiasing | pt_PT |
| dc.subject | Bias awareness | pt_PT |
| dc.subject | Enviesamento algorítmico | pt_PT |
| dc.subject | Enviesamento cognitivo | pt_PT |
| dc.subject | Tomada de decisão humana | pt_PT |
| dc.subject | Tomada de decisão algorítmica | pt_PT |
| dc.subject | Conscientização de enviesamento | pt_PT |
| dc.title | Overcoming algorithmic bias : the role of bias awareness, knowledge, and minority status on human decision-making | pt_PT |
| dc.type | master thesis | |
| dspace.entity.type | Publication | |
| rcaap.rights | openAccess | pt_PT |
| rcaap.type | masterThesis | pt_PT |
| thesis.degree.name | Mestrado em Gestão e Administração de Empresas | pt_PT |
Files
Original bundle
1 - 1 of 1
No Thumbnail Available
- Name:
- 152119110_Tiago José Freitas Marques_DPDFA.pdf
- Size:
- 2.07 MB
- Format:
- Adobe Portable Document Format