| Name: | Description: | Size: | Format: | |
|---|---|---|---|---|
| 3.45 MB | Adobe PDF |
Authors
Advisor(s)
Abstract(s)
To improve decision-making, organizations have been increasingly employing AI tools. The use
of AI in human decision-making gave rise to algorithm aversion or over-reliance on AI when users
do not appropriately rely on AI advice. Literature names the lack of familiarity with AI as a reason
for the inability of users to rely on AI advice appropriately. Since ChatGPT has gained global
interest, there have been concerns about ChatGPT and other Large Language Models (LLMs) being
misused. This thesis argues that familiarity with AI improves appropriate reliance on it.
The thesis presents two studies that measure how experience with ChatGPT impacts trust in other
AI tools, appropriate reliance, and detection of incorrect information. The results from these studies
suggest that experience with ChatGPT improves appropriate reliance on it, which in turn improves
decision-making, suggesting that ChatGPT and other AI tools can be used to increase users’ ability
to distinguish between correct and incorrect AI advice and to act accordingly, by relying on it when
it is correct. Furthermore, seeing ChatGPT err decreases trust in it and improves future verification
of the information it provides, further improving appropriate reliance on AI. Nevertheless, it is still
easier for individuals to determine when another individual erred than when ChatGPT did.
Para melhorar a tomada de decisões, as organizações têm vindo a utilizar cada vez mais ferramentas de IA. A utilização da IA na tomada de decisões humanas originou aversão aos algoritmos ou confiança excessiva na IA quando os utilizadores não confiam adequadamente nos conselhos da IA. A literatura refere a falta de familiaridade com a IA como uma razão para a incapacidade dos utilizadores de confiarem adequadamente nos conselhos da IA. Desde que o ChatGPT ganhou interesse a nível mundial, tem havido preocupações quanto à utilização incorrecta do ChatGPT e de outros LLM. Esta tese defende que a familiaridade com a IA melhora a confiança adequada na mesma. Esta tese apresenta dois estudos que medem o impacto da experência com o ChatGPT na confiança noutras ferramentas de IA, a confiança adequada e a detecção de informações incorrectas. Os resultados destes estudos sugerem que a experiência com o ChatGPT melhora a confiança adequada no mesmo, o que, por sua vez, melhora a tomada de decisões, sugerindo que o ChatGPT e outras ferramentas de IA podem ser utilizadas para aumentar a capacidade dos utilizadores para distinguir entre conselhos de IA correctos e incorrectos e para agir em conformidade, confiando neles quando estão correctos. Além disso, ver o ChatGPT errar diminui a confiança nele e melhora a verificação futura das informações que fornece, melhorando ainda mais a confiança adequada na IA. No entanto, continua a ser mais fácil para os indivíduos determinar quando outro indivíduo errou do que quando o ChatGPT errou.
Para melhorar a tomada de decisões, as organizações têm vindo a utilizar cada vez mais ferramentas de IA. A utilização da IA na tomada de decisões humanas originou aversão aos algoritmos ou confiança excessiva na IA quando os utilizadores não confiam adequadamente nos conselhos da IA. A literatura refere a falta de familiaridade com a IA como uma razão para a incapacidade dos utilizadores de confiarem adequadamente nos conselhos da IA. Desde que o ChatGPT ganhou interesse a nível mundial, tem havido preocupações quanto à utilização incorrecta do ChatGPT e de outros LLM. Esta tese defende que a familiaridade com a IA melhora a confiança adequada na mesma. Esta tese apresenta dois estudos que medem o impacto da experência com o ChatGPT na confiança noutras ferramentas de IA, a confiança adequada e a detecção de informações incorrectas. Os resultados destes estudos sugerem que a experiência com o ChatGPT melhora a confiança adequada no mesmo, o que, por sua vez, melhora a tomada de decisões, sugerindo que o ChatGPT e outras ferramentas de IA podem ser utilizadas para aumentar a capacidade dos utilizadores para distinguir entre conselhos de IA correctos e incorrectos e para agir em conformidade, confiando neles quando estão correctos. Além disso, ver o ChatGPT errar diminui a confiança nele e melhora a verificação futura das informações que fornece, melhorando ainda mais a confiança adequada na IA. No entanto, continua a ser mais fácil para os indivíduos determinar quando outro indivíduo errou do que quando o ChatGPT errou.
Description
Keywords
Artificial Intelligence AI advice Trust in AI Reliance on advice Over-reliance on AI Under-reliance on AI Appropriate reliance Inteligência artificial Conselhos sobre IA Confiança na IA Confiança nos conselhos Confiança excessiva na IA Confiança insuficiente na IA Confiança adequada