Symbolbild: Adobe Stock
Generative KI revolutioniert Lebensbereiche wie Bildung, Arbeit oder Wissenschaft, bringt jedoch auch Herausforderungen mit sich, etwa die Gewährleistung von Qualität und Wahrheitsgehalt. Mit dem neuen Forschungsschwerpunkt widmet sich das Institut der Frage, wann und wie viel Vertrauen in Bezug auf generative KI angebracht ist, sei es bei der Erstellung, Interaktion oder der Bewertung von KI-generierten Produkten. Das bidt fördert ab 2025 gezielt Projekte, die diese Thematik aus verschiedenen Blickwinkeln beleuchten.
Die Leitung des neuen Forschungsschwerpunkts „Mensch und generative KI: Trust in Co-Creation“ übernimmt Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau und Mitglied im Direktorium des bidt. „Vertrauen ist der Dreh- und Angelpunkt für den erfolgreichen Einsatz von generativer KI. Mit unserem neuen bidt-Schwerpunkt wollen wir herausfinden, wie wir die Interaktion von Mensch und KI so gestalten können, dass sie langfristig dem Menschen und der Gesellschaft dienlich ist“, fasst sie zusammen. Schmid-Petri forscht zudem an einem eigenen Projekt rund um Vertrauen und KI. Ein weiteres Projekt im Rahmen des neuen Forschungsschwerpunktes leitet der Wirtschaftsinformatiker Prof. Dr. Ulrich Gnewuch.
Die Forschungsvorhaben unter Beteiligung der Universität Passau im Überblick:
Das Projekt erforscht, inwiefern KI in journalistischen Berichten dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern. Mehr zum Projekt:
Wie treffen Nutzende bei der Interaktion mit einem KI-Copiloten Entscheidungen? Das Projekt untersucht die Gestaltung vertrauenswürdiger generativer KI-Copiloten und deren Einfluss auf die Geschäftsentscheidungen von Nutzenden ohne technischen Hintergrund. Mehr zum Projekt:
Die geförderten Projekte sind zwei von insgesamt zehn Vorhaben, die das bidt im Rahmen des neuen Forschungsschwerpunkts fördert. Die Vorhaben wurden im Rahmen der bidt-Jahresausschreibung zum Thema Vertrauen und KI ausgewählt und haben sich in einem kompetitiven Verfahren aufgrund ihrer exzellenten Qualität, Aktualität und Relevanz durchgesetzt.
Ergänzend zu den Projekten des Forschungsschwerpunkts wurden im Rahmen der Jahresausschreibung zwei weitere Konsortialprojekte aus Bayern ausgewählt. Eines davon ist ebenfalls an der Universität Passau angesiedelt:
Das Projekt wirft zwei Fragen auf: Wie und mit welchen Konsequenzen werden LLMs unter strenger Aufsicht und Zensur im heutigen Russland entwickelt? Und welche Auswirkungen haben autoritäre Daten, wenn sie in demokratische LLM-gestützte Systeme eingespeist werden? Mehr dazu:
Die geförderten Projekte stärken an der Universität Passau den Themenschwerpunkt Digitalisierung, in dessen Rahmen sich Forschende ebenfalls interdisziplinär mit den technischen, gesellschaftlichen, ethischen und rechtlichen Folgen von generativer künstlicher Intelligenz befassen.
