Symbolbild: Adobe Stock
Generative KI revolutioniert Lebensbereiche wie Bildung, Arbeit oder Wissenschaft, bringt jedoch auch Herausforderungen mit sich, etwa die Gewährleistung von Qualität und Wahrheitsgehalt. Mit dem neuen Forschungsschwerpunkt widmet sich das Institut der Frage, wann und wie viel Vertrauen in Bezug auf generative KI angebracht ist, sei es bei der Erstellung, Interaktion oder der Bewertung von KI-generierten Produkten. Das bidt fördert ab 2025 gezielt Projekte, die diese Thematik aus verschiedenen Blickwinkeln beleuchten.
Die Leitung des neuen Forschungsschwerpunkts „Mensch und generative KI: Trust in Co-Creation“ übernimmt Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau und Mitglied im Direktorium des bidt. „Vertrauen ist der Dreh- und Angelpunkt für den erfolgreichen Einsatz von generativer KI. Mit unserem neuen bidt-Schwerpunkt wollen wir herausfinden, wie wir die Interaktion von Mensch und KI so gestalten können, dass sie langfristig dem Menschen und der Gesellschaft dienlich ist“, fasst sie zusammen. Schmid-Petri forscht zudem an einem eigenen Projekt rund um Vertrauen und KI. Ein weiteres Projekt im Rahmen des neuen Forschungsschwerpunktes leitet der Wirtschaftsinformatiker Prof. Dr. Ulrich Gnewuch.
Die Forschungsvorhaben unter Beteiligung der Universität Passau im Überblick:
- „KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz“ |Leitung Prof. Dr. Hannah Schmid-Petri (bidt / Universität Passau)
Das Projekt erforscht, inwiefern KI in journalistischen Berichten dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern. Mehr zum Projekt:
bidt-Projekt: Kann künstliche Intelligenz das Vertrauen in den Journalismus stärken?
Wie nehmen Bürgerinnen und Bürger KI-generierte journalistische Inhalte zum Klimawandel wahr? Diese Frage erforscht ein Team unter der Leitung von Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau, in einem vom bidt geförderten Projekt.
- „Trustworthy Generative AI Copilots for Data Analytics in Business Decision-Making“ | Prof. Dr. Ulrich Gnewuch (Universität Passau)
Wie treffen Nutzende bei der Interaktion mit einem KI-Copiloten Entscheidungen? Das Projekt untersucht die Gestaltung vertrauenswürdiger generativer KI-Copiloten und deren Einfluss auf die Geschäftsentscheidungen von Nutzenden ohne technischen Hintergrund. Mehr zum Projekt:
Vertrauenswürdige KI-Copiloten für bessere datenbasierte Entscheidungen in Unternehmen
KI-Copiloten sind bereits in vielen Unternehmen im Einsatz. Hilft das Beschäftigten bei der Datenanalyse und Entscheidungsfindung? Und wenn nein, wie lässt sich das ändern? Unter anderem diese Fragen erforscht ein Team der Universität Passau in einem neuen bidt-Projekt unter der Leitung von Professor Ulrich Gnewuch.
Die geförderten Projekte sind zwei von insgesamt zehn Vorhaben, die das bidt im Rahmen des neuen Forschungsschwerpunkts fördert. Die Vorhaben wurden im Rahmen der bidt-Jahresausschreibung zum Thema Vertrauen und KI ausgewählt und haben sich in einem kompetitiven Verfahren aufgrund ihrer exzellenten Qualität, Aktualität und Relevanz durchgesetzt.
Ergänzend zu den Projekten des Forschungsschwerpunkts wurden im Rahmen der Jahresausschreibung zwei weitere Konsortialprojekte aus Bayern ausgewählt. Eines davon ist ebenfalls an der Universität Passau angesiedelt:
- „Autoritäre KI: Wie große Sprachmodelle (LLMs) an Russlands Propaganda angepasst werden“ |Prof. Dr. Florian Toepfl (Universität Passau), Prof. Dr. Andreas Jungherr (Universität Bamberg), Prof. Dr. Florian Lemmerich (Universität Passau)
Das Projekt wirft zwei Fragen auf: Wie und mit welchen Konsequenzen werden LLMs unter strenger Aufsicht und Zensur im heutigen Russland entwickelt? Und welche Auswirkungen haben autoritäre Daten, wenn sie in demokratische LLM-gestützte Systeme eingespeist werden? Mehr dazu:
bidt-Projekt zu Autoritärer KI: Wie große Sprachmodelle an Russlands Propaganda angepasst werden
Forschende der Universitäten Passau und Bamberg untersuchen in einem vom bidt geförderten Projekt, wie Russland unter strenger Aufsicht eigene generative KI-Modelle entwickelt und wie sich autoritäre Daten auf KI-Systeme in demokratischen Systemen auswirken.
Die geförderten Projekte stärken an der Universität Passau den Themenschwerpunkt Digitalisierung, in dessen Rahmen sich Forschende ebenfalls interdisziplinär mit den technischen, gesellschaftlichen, ethischen und rechtlichen Folgen von generativer künstlicher Intelligenz befassen.
Mehr Informationen
- Pressemitteilung des bidt zum neuen Forschungsschwerpunkt und zu allen geförderten Projekten
- Webseite des Forschungsschwerpunkts am bidt
- Beschreibung zum Projekt "KI im Journalismus" auf der Webseite des bidt
- Beschreibung zum Projekt "GenAICopilot" auf der Webseite des bidt
- Beschreibung zum Projekt "Autoritäre KI" auf der Webseite des bidt
- Forschung zu KI und Sprachmodellen an der Universität Passau
Prof. Dr. Hannah Schmid-Petri
Wie werden Themen der Digitalisierung öffentlich diskutiert und welche Folgen hat das für politische Prozesse?
Wie werden Themen der Digitalisierung öffentlich diskutiert und welche Folgen hat das für politische Prozesse?
Prof. Dr. Hannah Schmid-Petri ist Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau und Projektleiterin im DFG-Graduiertenkolleg 2720: "Digital Platform Ecosystems (DPE)". Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation und Teil der Jury des Communicator-Preises der DFG. Vor ihrer Zeit in Passau war sie Oberassistentin am Institut für Kommunikations- und Medienwissenschaft der Universität Bern.