Publication
The impact of ChatGPT on reliance on AI advice
| datacite.subject.fos | Ciências Sociais::Economia e Gestão | pt_PT |
| dc.contributor.advisor | Almeida, Filipa de | |
| dc.contributor.author | Kaur, Roma | |
| dc.date.accessioned | 2023-09-27T13:41:02Z | |
| dc.date.available | 2024-05-31T00:30:39Z | |
| dc.date.issued | 2023-06-27 | |
| dc.date.submitted | 2023-06 | |
| dc.description.abstract | To improve decision-making, organizations have been increasingly employing AI tools. The use of AI in human decision-making gave rise to algorithm aversion or over-reliance on AI when users do not appropriately rely on AI advice. Literature names the lack of familiarity with AI as a reason for the inability of users to rely on AI advice appropriately. Since ChatGPT has gained global interest, there have been concerns about ChatGPT and other Large Language Models (LLMs) being misused. This thesis argues that familiarity with AI improves appropriate reliance on it. The thesis presents two studies that measure how experience with ChatGPT impacts trust in other AI tools, appropriate reliance, and detection of incorrect information. The results from these studies suggest that experience with ChatGPT improves appropriate reliance on it, which in turn improves decision-making, suggesting that ChatGPT and other AI tools can be used to increase users’ ability to distinguish between correct and incorrect AI advice and to act accordingly, by relying on it when it is correct. Furthermore, seeing ChatGPT err decreases trust in it and improves future verification of the information it provides, further improving appropriate reliance on AI. Nevertheless, it is still easier for individuals to determine when another individual erred than when ChatGPT did. | pt_PT |
| dc.description.abstract | Para melhorar a tomada de decisões, as organizações têm vindo a utilizar cada vez mais ferramentas de IA. A utilização da IA na tomada de decisões humanas originou aversão aos algoritmos ou confiança excessiva na IA quando os utilizadores não confiam adequadamente nos conselhos da IA. A literatura refere a falta de familiaridade com a IA como uma razão para a incapacidade dos utilizadores de confiarem adequadamente nos conselhos da IA. Desde que o ChatGPT ganhou interesse a nível mundial, tem havido preocupações quanto à utilização incorrecta do ChatGPT e de outros LLM. Esta tese defende que a familiaridade com a IA melhora a confiança adequada na mesma. Esta tese apresenta dois estudos que medem o impacto da experência com o ChatGPT na confiança noutras ferramentas de IA, a confiança adequada e a detecção de informações incorrectas. Os resultados destes estudos sugerem que a experiência com o ChatGPT melhora a confiança adequada no mesmo, o que, por sua vez, melhora a tomada de decisões, sugerindo que o ChatGPT e outras ferramentas de IA podem ser utilizadas para aumentar a capacidade dos utilizadores para distinguir entre conselhos de IA correctos e incorrectos e para agir em conformidade, confiando neles quando estão correctos. Além disso, ver o ChatGPT errar diminui a confiança nele e melhora a verificação futura das informações que fornece, melhorando ainda mais a confiança adequada na IA. No entanto, continua a ser mais fácil para os indivíduos determinar quando outro indivíduo errou do que quando o ChatGPT errou. | pt_PT |
| dc.identifier.tid | 203329155 | pt_PT |
| dc.identifier.uri | http://hdl.handle.net/10400.14/42662 | |
| dc.language.iso | eng | pt_PT |
| dc.subject | Artificial Intelligence | pt_PT |
| dc.subject | AI advice | pt_PT |
| dc.subject | Trust in AI | pt_PT |
| dc.subject | Reliance on advice | pt_PT |
| dc.subject | Over-reliance on AI | pt_PT |
| dc.subject | Under-reliance on AI | pt_PT |
| dc.subject | Appropriate reliance | pt_PT |
| dc.subject | Inteligência artificial | pt_PT |
| dc.subject | Conselhos sobre IA | pt_PT |
| dc.subject | Confiança na IA | pt_PT |
| dc.subject | Confiança nos conselhos | pt_PT |
| dc.subject | Confiança excessiva na IA | pt_PT |
| dc.subject | Confiança insuficiente na IA | pt_PT |
| dc.subject | Confiança adequada | pt_PT |
| dc.title | The impact of ChatGPT on reliance on AI advice | pt_PT |
| dc.type | master thesis | |
| dspace.entity.type | Publication | |
| rcaap.rights | openAccess | pt_PT |
| rcaap.type | masterThesis | pt_PT |
| thesis.degree.name | Mestrado em Gestão e Administração de Empresas | pt_PT |