Update vom März 2022: Das Journal of Association for Information Systems hat die Studie "What Do I Do in a World of Artificial Intelligence? Investigating the Impact of Substitutive Decision-Making AI Systems on Employees’ Professional Role Identity" mit dem Best Paper Honorable Mention Award ausgezeichnet.
Künstliche-Intelligenz-Systeme sind zunehmend in der Lage, Entscheidungen autonom zu treffen, ohne dass menschlicher Input nötig ist. Das betrifft alle Branchen, darunter auch den Finanzsektor. Ein Forschungsteam der Universitäten Passau und Bayreuth hat untersucht, wie Bankberaterinnen und -berater reagieren, wenn sie Entscheidungskompetenz an ein KI-System abgeben müssen.
Ein Beispiel ist der Prozess der Kreditvergabe. Vor der Einführung eines KI-Systems besaß die Beraterin oder der Berater hier umfangreiche Kompetenz: Sie oder er entschied, ob ein Kredit vergeben wird und zu welchen Konditionen. Das verändert sich durch die Einführung eines KI-Systems fundamental. Die Beraterin oder der Berater kann die Entscheidung des Systems nicht verändern oder ablehnen. Dennoch muss sie oder er diese der Kundschaft gegenüber plausibel kommunizieren und rechtfertigen.
Beim Anzeigen des Videos wird Ihre IP-Adresse an einen externen Server (Vimeo.com) gesendet.
„Unsere Studie zeigt, dass sich nicht nur die Arbeitsprozesse grundlegend verändern, sondern eben auch die professionelle Rollenidentität“, sagt Anne-Sophie Mayer, Nachwuchsforscherin am Lehrstuhl für Betriebswirtschaftslehre mit Schwerpunkt Management, Personal und Information an der Universität Passau. Wie genau, das hat sie gemeinsam mit dem Psychologen Dr. Franz Strich und Prof. Dr. Marina Fiedler untersucht. „Wir haben dazu in der Zeit von Januar bis Dezember 2019 qualitative Interviews mit 60 Beraterinnen und Beratern geführt. Unser Ziel war es herauszufinden, wie sich Mitarbeiter neu definieren, wenn sinnstiftende Kernbereiche ihrer Tätigkeiten von substituierenden KI-Systemen übernommen werden“, erklärt Strich, wissenschaftlicher Mitarbeiter an der Universität Bayreuth.
'Ich ganz alleine konnte über eine Million Euro entscheiden.' So definiert man sich als Bankberaterin oder - berater. Sie müssen die psychologische Bedeutung davon verstehen, denn dann kam der Tag, an dem die Bank entschied, dass diese Entscheidungen von nun an eine Maschine treffen sollte. … Das war für die Beschäftigten dramatisch, denn sie stellten sich logischerweise die Frage: 'Warum bin ich überhaupt noch hier?'
Auszug aus dem Interview mit einem früheren CEO im Bankensektor
Sie hätten Reaktionen zweier unterschiedlicher Gruppen identifizieren können, berichtet Mayer. Einerseits sei da die Gruppe von Beraterinnen und Beratern, die sich in ihrer Rollenidentität durch das KI-System bedroht fühlten. Es handele sich dabei um Beschäftigte mit langjähriger Berufserfahrung und Expertise. Diese empfinden eine Herausforderung und Abwertung durch das System und versuchen ihre Identität zu schützen. Die andere Gruppe habe sich hingegen in ihrer professionellen Rollenidentität gestärkt gefühlt. Dazu zählten Beraterinnen und Berater, die erst kürzlich in das Geschäft eingestiegen seien oder vorher in einer anderen Abteilung tätig waren. Sie hätten das KI-System als Chance begriffen, vollumfänglich in der Kreditberatung arbeiten zu können.
Die Studie verdeutliche Potentiale und Gefahren der Einführung eines KI-Systems, fasst Prof. Dr. Fiedler zusammen. „Für viele Organisationen besteht das Risiko, dass sie bei der Einführung eines solchen Systems den Mitarbeitenden ihre Einflussmöglichkeiten nehmen. Das ist aber einer der grundlegendsten Bedürfnisse von Menschen. Organisationen sollten darauf achten, dass Mitarbeitende weiterhin eine sinnstiftende Antwort auf die Frage nach dem 'Wer bin ich am Arbeitsplatz?' finden“, so Prof. Dr. Fiedler. Organisationen könnten deshalb nicht einfach so ein KI-System einführen und darauf hoffen, dass die Beschäftigten schon das Beste daraus machen würden. Sie sollten sich im Vorfeld Gedanken machen, welche Antworten sie den Mitarbeiterinnen und Mitarbeitern auf die Fragen nach ihrer beruflichen Identität bieten könnten.
Die Studie mit dem Titel "What Do I Do in a World of Artificial Intelligence? Investigating the Impact of Substitutive Decision-Making AI Systems on Employees’ Professional Role Identity" ist in der renommierten Fachzeitschrift Journal of the Association for Information Systems erschienen.