Zum Inhalt springen

Wenn Künstliche Intelligenz Bankberaterinnen und Bankberatern die Sinnfrage stellt

Was macht es mit Beschäftigten, wenn sie wesentliche Entscheidungen in ihrer Tätigkeit nicht mehr selbst treffen können, sondern dies ein KI-System übernimmt? Forschende der Universitäten Passau und Bayreuth sind dieser Frage nachgegangen – am Beispiel des Prozesses der Kreditvergabe. Mit Video

Künstliche-Intelligenz-Systeme sind zunehmend in der Lage, Entscheidungen autonom zu treffen, ohne dass menschlicher Input nötig ist. Das betrifft alle Branchen, darunter auch den Finanzsektor. Ein Forschungsteam der Universitäten Passau und Bayreuth hat untersucht, wie Bankberaterinnen und -berater reagieren, wenn sie Entscheidungskompetenz an ein KI-System abgeben müssen.

Ein Beispiel ist der Prozess der Kreditvergabe. Vor der Einführung eines KI-Systems besaß die Beraterin oder der Berater hier umfangreiche Kompetenz: Sie oder er entschied, ob ein Kredit vergeben wird und zu welchen Konditionen. Das verändert sich durch die Einführung eines KI-Systems fundamental. Die Beraterin oder der Berater kann die Entscheidung des Systems nicht verändern oder ablehnen. Dennoch muss sie oder er diese der Kundschaft gegenüber plausibel kommunizieren und rechtfertigen.

Beim Anzeigen des Videos wird Ihre IP-Adresse an einen externen Server (Vimeo.com) gesendet.

Video anzeigen
/uploads/tx_upatheme/vimeo-11a2650b46d7d12eca2f88b2049c54f82ace675d.jpg

„Unsere Studie zeigt, dass sich nicht nur die Arbeitsprozesse grundlegend verändern, sondern eben auch die professionelle Rollenidentität“, sagt Anne-Sophie Mayer, Nachwuchsforscherin am Lehrstuhl für Betriebswirtschaftslehre mit Schwerpunkt Management, Personal und Information an der Universität Passau. Wie genau, das hat sie gemeinsam mit dem Psychologen Dr. Franz Strich und Prof. Dr. Marina Fiedler untersucht. „Wir haben dazu in der Zeit von Januar bis Dezember 2019 qualitative Interviews mit 60 Beraterinnen und Beratern geführt. Unser Ziel war es herauszufinden, wie sich Mitarbeiter neu definieren, wenn sinnstiftende Kernbereiche ihrer Tätigkeiten von substituierenden KI-Systemen übernommen werden“, erklärt Strich, wissenschaftlicher Mitarbeiter an der Universität Bayreuth.

'Ich ganz alleine konnte über eine Million Euro entscheiden.' So definiert man sich als Bankberaterin oder - berater. Sie müssen die psychologische Bedeutung davon verstehen, denn dann kam der Tag, an dem die Bank entschied, dass diese Entscheidungen von nun an eine Maschine treffen sollte. … Das war für die Beschäftigten dramatisch, denn sie stellten sich logischerweise die Frage: 'Warum bin ich überhaupt noch hier?'

Auszug aus dem Interview mit einem früheren CEO im Bankensektor

Sie hätten Reaktionen zweier unterschiedlicher Gruppen identifizieren können, berichtet Mayer. Einerseits sei da die Gruppe von Beraterinnen und Beratern, die sich in ihrer Rollenidentität durch das KI-System bedroht fühlten. Es handele sich dabei um Beschäftigte mit langjähriger Berufserfahrung und Expertise. Diese empfinden eine Herausforderung und Abwertung durch das System und versuchen ihre Identität zu schützen. Die andere Gruppe habe sich hingegen in ihrer professionellen Rollenidentität gestärkt gefühlt. Dazu zählten Beraterinnen und Berater, die erst kürzlich in das Geschäft eingestiegen seien oder vorher in einer anderen Abteilung tätig waren. Sie hätten das KI-System als Chance begriffen, vollumfänglich in der Kreditberatung arbeiten zu können.

Die Studie verdeutliche Potentiale und Gefahren der Einführung eines KI-Systems, fasst Prof. Dr. Fiedler zusammen. „Für viele Organisationen besteht das Risiko, dass sie bei der Einführung eines solchen Systems den Mitarbeitenden ihre Einflussmöglichkeiten nehmen. Das ist aber einer der grundlegendsten Bedürfnisse von Menschen. Organisationen sollten darauf achten, dass Mitarbeitende weiterhin eine sinnstiftende Antwort auf die Frage nach dem 'Wer bin ich am Arbeitsplatz?' finden“, so Prof. Dr. Fiedler. Organisationen könnten deshalb nicht einfach so ein KI-System einführen und darauf hoffen, dass die Beschäftigten schon das Beste daraus machen würden. Sie sollten sich im Vorfeld Gedanken machen, welche Antworten sie den Mitarbeiterinnen und Mitarbeitern auf die Fragen nach ihrer beruflichen Identität bieten könnten.


Die Studie mit dem Titel "What Do I Do in a World of Artificial Intelligence? Investigating the Impact of Substitutive Decision-Making AI Systems on Employees’ Professional Role Identity" ist in der renommierten Fachzeitschrift Journal of  the Association for Information Systems erschienen. 


Mehr Beiträge

Beteiligte der Universität Passau v.l.: Prof. Dr. Kai von Lewinski, Dr. Robert Luzsa, Prof. Dr. Moritz Hennemann, Prof. Dr. Hannah Schmid-Petri

Das Bayerische Forschungsinstitut für Digitale Transformation (bidt) veranstaltet am 13. und 14. Oktober seine erste große Konferenz. Experten und eine Expertin der Universität Passau bringen Erkenntnisse aus bidt-Projekten ein.

Die Forschungsstelle für Rechtsfragen der Digitalisierung (FREDI) hat mit international renommierten Gästen virtuell und persönlich über Datenrecht und Datenpolitik diskutiert. Impressionen im Video (Englisch)

Ein Mensch hält ein Smartphone vor einer Backsteinmauer. Auf dem Display erscheint das selbe Bild, das wir gerade betrachten erneut. Darin erneut und so fort.

PD Dr. Jörg Scheffer erklärt im Interview, wie Digitalisierung bestehende gesellschaftliche Verhältnisse festigen kann und damit Aufstiegschancen massiv beschneidet.

Beim Anzeigen des Videos wird Ihre IP-Adresse an einen externen Server (Vimeo.com) gesendet.

Video anzeigen