DFG-Projekt GAIO: Wie undurchsichtige KI-Systeme menschliches Arbeiten verändern

Was bedeutet es für den menschlichen Schaffensdrang, wenn wir mit KI-Werkzeugen arbeiten, die wir nicht durchschauen? Dieser Frage geht ein Team um Prof. Dr. Marina Fiedler im DFG-Projekt GAIO nach.

KI-Systeme treffen heute Vorauswahlen in der Personalrekrutierung, generieren Texte und unterstützen strategische Entscheidungen. Zunehmend handeln sie auch als autonome Agenten, die eigenständig Aufgaben planen, Werkzeuge auswählen und mehrere Arbeitsschritte hintereinander ausführen. Kaum jemand kann dabei nachvollziehen, wie sie zu ihren Ergebnissen kommen. Was bedeutet es für uns, wenn wir täglich mit Werkzeugen arbeiten, die wir nicht durchschauen?

Dieser Frage geht das Forschungsprojekt GAIO (Human Generative Drive in the AI-Opaque Workplace) unter der Leitung von Prof. Dr. Marina Fiedler nach, Inhaberin des Lehrstuhls für BWL mit Schwerpunkt Management, Personal und Information an der Universität Passau. „Im Zentrum steht das, was wir den menschlichen Schaffensdrang nennen: der innere Antrieb, eigenständig kreative Lösungen zu entwickeln, Verantwortung für die eigene Arbeit zu übernehmen und einen sinnvollen Beitrag zu leisten", erklärt die Wissenschaftlerin.

Doch wie wirkt sich die Undurchsichtigkeit von KI – ihre Opazität – auf diesen Antrieb aus? „Denkbar ist, dass sie ihn gefährdet: Wenn Menschen KI-Ergebnisse weder verstehen noch daraus lernen oder darauf aufbauen können, könnten das Gefühl der Urheberschaft, die Bereitschaft zur kritischen Reflexion und die kreative Problemlösungsfähigkeit erodieren. Ebenso möglich ist aber, dass Opazität den Schaffensdrang kaum beeinflusst – etwa weil Menschen eigene Strategien im Umgang mit intransparenten Systemen entwickeln", sagt Prof. Dr. Fiedler. Genau das wolle sie mit ihrem Team in GAIO ergebnisoffen untersuchen.

Warum KI undurchsichtig ist

KI-Opazität hat nicht eine Ursache, sondern drei. Erstens verschleiern KI-Anbieter aus Wettbewerbs- und Haftungsgründen bewusst, wie ihre Modelle funktionieren. Zweitens fehlt Nutzenden häufig das technische Wissen, um die Funktionsweise zu durchdringen. Und drittens bleibt selbst mit vollständigem Zugang und Expertise eine grundlegende Hürde: Menschliches Denken kann mit der Komplexität heutiger KI-Modelle schlicht nicht Schritt halten – eine kognitive Grenze, die sich nicht einfach durch mehr Wissen überwinden lässt.

Besonders ausgeprägt wirken diese Quellen bei KI-Agenten. Weil Agenten ganze Aufgabenketten selbstständig planen, eigenständig Werkzeuge wählen und Zwischenentscheidungen treffen, die für Nutzende meist unsichtbar bleiben, verstärken sie alle drei Opazitätsquellen zugleich: Selbst wer das zugrunde liegende Modell verstünde, sähe weder, welche Schritte das System tatsächlich gegangen ist, noch warum es einen Pfad einem anderen vorgezogen hat. Jede Opazitätsquelle wirkt auf eigene Weise auf den Schaffensdrang – und verlangt nach eigenen Antworten.

Was das Projekt untersucht

Im Arbeitsalltag wird häufig davon ausgegangen, dass sich KI reibungslos in bestehende Abläufe einfügt, dass mehr Transparenz automatisch besser ist und dass technische Erklärungen ausreichen, um Vertrauen und Verständnis herzustellen. GAIO stellt diese Annahmen auf den Prüfstand und verfolgt drei Forschungsziele:

• Verstehen, wie die drei Opazitätsquellen den menschlichen Schaffensdrang jeweils beeinflussen – auch dort, wo KI-Agenten eigenständig handeln.
• Differenzieren, welche Transparenzansätze – technische (z. B. erklärbare KI), organisationale oder edukative – bei welcher Art von Undurchsichtigkeit wirken.
• Gestalten konkreter Maßnahmen, die den Schaffensdrang in KI-geprägten Arbeitsumgebungen erhalten und fördern.

Wie die Forschenden vorgehen

GAIO verbindet qualitative und quantitative Methoden in drei aufeinander aufbauenden Schritten. Zunächst begleiten die Forschenden Mitarbeitende in drei Partnerorganisationen durch Beobachtungen und Interviews im Arbeitsalltag, um zu verstehen, wie Opazität konkret erlebt wird und wo sie den Schaffensdrang berührt. Darauf aufbauend prüft das Team mit einer breit angelegten Befragung und mit Laborexperimenten, welche Transparenzmaßnahmen tatsächlich wirken – und welche nicht. Im dritten Schritt entwickeln und erproben die Forschenden gemeinsam mit den Partnerorganisationen drei bis fünf praxistaugliche Interventionen.

Was daraus entsteht

Die Ergebnisse münden in ein evidenzbasiertes Toolkit, das Organisationen konkrete Strategien an die Hand gibt, um KI-Transparenz differenziert und wirksam zu gestalten. Ziel ist eine Arbeitswelt, in der KI – auch in Form autonomer Agenten – den menschlichen Schaffensdrang nicht verdrängt, sondern Raum dafür schafft.

Die Deutsche Forschungsgemeinschaft (DFG) fördert das Projekt über einen Zeitraum von drei Jahren.

Bildhinweis: Die Illustration wurde mit Hilfe von KI erstellt.