Beitrag zum Thema „Vertrauen in KI-Systeme“ auf der Americas Conference on Information Systems (AMCIS 2024) angenommen.

1 Juli 2024

Vertrauen in KI-Systeme ist entscheidend für deren Akzeptanz im beruflichen und privaten Bereich. Transparenz, Fairness und Performance sollten daher bei der Entwicklung und Vermarktung der Systeme im Fokus stehen. Der Beitrag geht der Frage nach, ob unternehmerische Ziele, die von der entwickelnden Organisation kommuniziert werden, die Wahrnehmung der KI-Systeme auf Nutzerseite beeinflussen. Die Ergebnisse der Untersuchung zeigen, dass KI-Systeme als fairer und transparenter, aber nicht als leistungsfähiger wahrgenommen werden, wenn sie von Organisationen entwickelt werden, deren dominantes Ziel nicht das Streben nach Gewinn ist. Diese Effekte werden durch wahrgenommene Gier erklärt. Organisationen, die nicht primär nach Gewinn streben, erscheinen weniger gierig und daher motivierter, Kriterien wie Fairness und Transparenz in ihren Systemen zu priorisieren.

Diese Frage ist auch vor dem Hintergrund relevant, dass die Entwicklung von KI erhebliches Kapital erfordert und daher bisher nicht primär gewinnorientierte Unternehmen, die KI entwickeln, eine gewinnorientierte Ausrichtung anstreben könnten, um diesen Kapitalbedarf langfristig zu decken.

AMCIS ist die führende Konferenz für Information Systems in Amerika und ist Teil der Association for Information Systems (AIS) Konferenzen. Die AMCIS findet vom 15. bis 17. August in Salt Lake City statt. Weitere Informationen finden Sie hier: https://aisel.aisnet.org/amcis2024/sig_hci/sig_hci/7/