Suche nach dem richtigen Maß an Vertrauen in KI

Prof. Dr. Schmid-Petri im Gespräch mit Ulrich Schäfer, dem stellvertretenden Chefredakteur der SZ. Foto: Mirjam Hauck

Schmid-Petri, die auch Direktorin des Bayerischen Instituts für Digitale Transformation (bidt) der Akademie der Wissenschaften ist, untersucht in einem dort geförderten Projekt, wie es um das Vertrauen in KI-generierten Journalismus bestellt ist. Auf der Münchner Veranstaltung stellte sie den Journalistinnen und Journalisten erste Erkenntnisse aus einer repräsentativen Studie vor, die sie gemeinsam mit ihrer Mitarbeiterin Daria Kravets-Meinke durchgeführt hat.

„Die Mehrheit der Befragten hält Nachrichten von menschlichen Journalistinnen und Journalisten nach wie vor für glaubwürdiger als den KI-generierten Text“, sagt die Professorin. Das Ergebnis deckt sich mit anderen Untersuchungen. Aber es zeigt auch, dass unter bestimmten Bedingungen die KI vorne liegt, etwa bei Personen mit einer positiveren Einstellung zur Technologie.

Für die Studie hatten die Forscherinnen Aufmachertexte zur Einführung eines Tempolimits auf deutschen Autobahnen erstellt und mit dem Hinweis versehen, wer den Artikel verfasst hat: Journalist, KI oder Journalist mit Unterstützung von KI. Zusätzlich betteten sie die Überschrift in journalistische Marken ein, nämlich tagesschau.de, die Welt und t-online. Diese Versionen wurden vom Marktforschungsinstitut IPSOS mehr als 3000 Teilnehmenden vorgelegt, die dazu einen Online-Fragebogen ausfüllten.

Etwas frustrierend für menschliche Autorinnen und Autoren dürfte sein, dass viele Teilnehmende den oder die Verfasserin des Artikels gar nicht wahrgenommen haben. An die jeweilige journalistische Marke konnten sie sich aber sehr wohl erinnern und es zeigt sich, dass vor allem auch ein hohes Vertrauen in die Medienmarke zu positiveren Glaubwürdigkeitsurteilen führt. „Dieses Vertrauen ist die wichtigste Währung der Medienhäuser und darf nicht verspielt werden“, sagt Prof. Dr. Schmid-Petri.

Das Projekt ist Teil des bidt-Forschungsschwerpunkts zum Thema „Mensch und generative KI: Trust in Co-Creation“, den die Professorin als bidt-Direktorin leitet. Darin sind zehn Projekte von Forschenden aus verschiedenen Disziplinen und Universitäten angesiedelt, die beide Seiten der Zusammenarbeit in den Blick nehmen, den Menschen und die Technik. „Wir untersuchen in verschiedenen Anwendungsszenarien, unter welchen Bedingungen ein angemessenes und sinnvolles Vertrauen in KI-Produkte entsteht“, erklärt Schmid-Petri die gemeinsame Zielsetzung.

Vertrauenswürdige KI-Copiloten gestalten

Die Wirtschaftsinformatikerin Ana-Maria Sîrbu spricht in diesem Fall von einer Vertrauens-Kalibrierung, einem „Mental Match“ zwischen Mensch und Maschine. Sîrbu ist Mitarbeiterin bei Prof. Dr. Ulrich Gnewuch, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme. Auch mit ihm ist die Universität Passau in dem bidt-Schwerpunkt vertreten. Er leitet das Projekt GenAICopilot, das erforscht, wie KI-Copiloten gestaltet werden müssen, damit Beschäftigte ihnen das richtige Maß an Vertrauen entgegenbringen.

Die Wirtschaftsinformatikerin Ana-Maria Sîrbu erforscht, wie sich vertrauenswürdige KI-Copiloten gestalten lassen.

In vielen Unternehmen sind solche Copiloten bereits im Einsatz. Sie unterstützen Beschäftigte ohne technischen Hintergrund dabei, Daten zu analysieren und auf dieser Basis Entscheidungen zu treffen. Allerdings sind diese Prof. Dr. Gnewuch zufolge nicht immer effizient, etwa wenn Beschäftigte den Antworten der KI blind vertrauen oder wenn umgekehrt die Skepsis zu hoch ist. In beiden Fällen können Formen von „Explainable AI“ helfen, also Methoden, um künstliche Intelligenz für den Menschen nachvollziehbarer zu machen.

Sîrbu baut in ihrer Promotion auf ihrer Masterarbeit auf, die sie im Rahmen ihres Doppelstudiums der Wirtschaftsinformatik an der Universität Passau und an der Universität Finnland erstellt hat. Darin programmierte sie einen auf generativen Sprachmodellen basierenden Datenassistenten. In einer Variante können Nutzende über einen Button eine Erklärung aufrufen, in der der Prototyp die Schritte beschreibt, die ihn zu seiner Antwort geführt haben. Allerdings neigten die Teilnehmenden des Experiments dazu, den Button nur einmal zu betätigen, bei weiteren Anfragen nicht mehr. Nach dem Motto: Wenn die KI es einmal richtig gemacht hat, wird es schon passen. Sîrbu hätte aber gerne mehr Interaktion mit dem Button.

Die Wirtschaftsinformatikerin kam aus ihrem Heimatort Craiova in Rumänien zunächst als Erasmus-Studentin nach Passau. Es gefiel ihr so gut, dass sie sich der Herausforderung eines Studiums in einer Fremdsprache stellte. Später bewarb sie sich um das Doppelmasterprogramm mit der Universität Finnland und gleichzeitig öffnete sich ihr die Tür zum Einstieg in die Wissenschaft. Denn der Programmbeauftragte Prof. Dr. Jan Krämer bot ihr auch noch eine Stelle als studentische Hilfskraft bei ihm am Lehrstuhl für Wirtschaftsinformatik mit Schwerpunkt Internet- und Telekommunikationswirtschaft an. Sîrbu sagte begeistert zu. „Ich wollte schon immer Einblick in wissenschaftliches Arbeiten bekommen.“ Sie unterstützte die Doktorandinnen und Doktoranden beim Durchführen von Experimenten – eine Erfahrung, die ihr nun hilft.

Gerade fasst sie die Erkenntnisse ihrer Masterarbeit zusammen. Denn sie hat sich damit erfolgreich um einen Vortrag auf der Europäischen Konferenz für Wirtschaftsinformatik beworben, die im Juni in Jordanien stattfindet. Es ist der nächste Schritt in ihrer wissenschaftlichen Karriere. Sie erhofft sich wichtige Kontakte zu Fachkolleginnen und -kollegen und neue Erkenntnisse für ihr Projekt. Zum Beispiel, wie man Menschen dazu bringen kann, sich mehr mit der Erklärung von KI zu befassen. Das könnte ein Schritt sein, um dem richtigen Maß an Vertrauen näher zu kommen.

Text: Kathrin Haimerl

Dieser Beitrag stammt aus dem Campus Magazin (01/2025)