| Name: | Description: | Size: | Format: | |
|---|---|---|---|---|
| 1.63 MB | Adobe PDF |
Authors
Advisor(s)
Abstract(s)
As healthcare increasingly adopts artificial intelligence (AI) for decision support, the success of AI systems depends on user trust and willingness to rely on recommendations, especially in high-risk medical scenarios. This study used an experiment featuring different portrayals of AI4presented as code-based, morph, or human-like4to assess how these visual representations impact patients' trust in AI recommendations. The findings reveal that visual portrayals of AI has no significant effect on utilitarian motivation, interaction convenience, or task-technology fit. Instead, perceived competence emerges as the most influential factor in building trust, which in turn increases reliance on AI recommendations. The results highlight that users prioritize the functional competence and reliability of AI over aesthetic or anthropomorphic features, particularly when accuracy and trust are critical. The study offers important managerial insights for organizations integrating AI systems, emphasizing the need for transparency, accuracy, and reliability to foster trust. While aesthetic enhancements may attract initial engagement, they should not detract from delivering clear and reliable outputs. By focusing on competence and trustworthiness, organizations can enhance AI adoption, particularly in healthcare, where accurate decision support is crucial. This research underscores the importance of designing AI systems that not only meet technical standards but also maintain user trust, ensuring their effective use in decision-making processes.
À medida que a área da saúde adota a inteligência artificial (IA) para apoio à decisão, o sucesso dos sistemas de IA depende da confiança dos utilizadores e da sua disposição em seguir as recomendações, especialmente em cenários médicos de alto risco. Este estudo utilizou um experimento com diferentes representações visuais de IA 4 baseadas em código, forma morfa ou semelhantes a humanos 4 para avaliar o impacto na confiança dos pacientes nas recomendações de IA. Os resultados mostram que a forma visual da IA não afeta significativamente a motivação utilitária, a conveniência da interação ou a adequação tarefa-tecnologia. Em vez disso, a perceção de competência é o fator mais relevante na construção de confiança, aumentando a aceitação das recomendações de IA. Os resultados salientam que os utilizadores valorizam a competência funcional e a fiabilidade da IA em vez de características estéticas ou antropomórficas, especialmente quando a precisão e a confiança são essenciais. O estudo oferece insights para a gestão de organizações que integram IA, sublinhando a importância da transparência, precisão e fiabilidade para promover a confiança. Embora melhorias estéticas possam atrair atenção inicial, estas não devem comprometer a entrega de resultados claros e fiáveis. Ao focar-se na competência e na confiança, as organizações podem facilitar a adoção da IA, particularmente no setor da saúde, onde o apoio preciso à decisão é fundamental. Esta investigação destaca a importância de projetar sistemas de IA que cumpram padrões técnicos e preservem a confiança dos utilizadores.
À medida que a área da saúde adota a inteligência artificial (IA) para apoio à decisão, o sucesso dos sistemas de IA depende da confiança dos utilizadores e da sua disposição em seguir as recomendações, especialmente em cenários médicos de alto risco. Este estudo utilizou um experimento com diferentes representações visuais de IA 4 baseadas em código, forma morfa ou semelhantes a humanos 4 para avaliar o impacto na confiança dos pacientes nas recomendações de IA. Os resultados mostram que a forma visual da IA não afeta significativamente a motivação utilitária, a conveniência da interação ou a adequação tarefa-tecnologia. Em vez disso, a perceção de competência é o fator mais relevante na construção de confiança, aumentando a aceitação das recomendações de IA. Os resultados salientam que os utilizadores valorizam a competência funcional e a fiabilidade da IA em vez de características estéticas ou antropomórficas, especialmente quando a precisão e a confiança são essenciais. O estudo oferece insights para a gestão de organizações que integram IA, sublinhando a importância da transparência, precisão e fiabilidade para promover a confiança. Embora melhorias estéticas possam atrair atenção inicial, estas não devem comprometer a entrega de resultados claros e fiáveis. Ao focar-se na competência e na confiança, as organizações podem facilitar a adoção da IA, particularmente no setor da saúde, onde o apoio preciso à decisão é fundamental. Esta investigação destaca a importância de projetar sistemas de IA que cumpram padrões técnicos e preservem a confiança dos utilizadores.
Description
Keywords
Artificial intelligence (AI) AI acceptance Healthcare decision-making Patient reliance Trust in AI Technology adoption Inteligência artificial (IA) Aceitação da IA Tomada de decisões em saúde Confiança dos pacientes Confiança na IA Adoção de tecnologia