Zum Inhalt springen

Vertrauen und KI: Prof. Dr. Hannah Schmid-Petri leitet neuen bidt-Forschungsschwerpunkt

Das Bayerische Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften startet den neuen Forschungsschwerpunkt „Mensch und generative KI: Trust in Co-Creation“ und fördert zwölf innovative Projekte. Forschende der Universität Passau sind in dem neuen Schwerpunkt und den geförderten Vorhaben prominent vertreten.

Symbolbild: Adobe Stock

Generative KI revolutioniert Lebensbereiche wie Bildung, Arbeit oder Wissenschaft, bringt jedoch auch Herausforderungen mit sich, etwa die Gewährleistung von Qualität und Wahrheitsgehalt. Mit dem neuen Forschungsschwerpunkt widmet sich das Institut der Frage, wann und wie viel Vertrauen in Bezug auf generative KI angebracht ist, sei es bei der Erstellung, Interaktion oder der Bewertung von KI-generierten Produkten. Das bidt fördert ab 2025 gezielt Projekte, die diese Thematik aus verschiedenen Blickwinkeln beleuchten.

Prof. Dr. Hannah Schmid-Petri

Die Leitung des neuen Forschungsschwerpunkts „Mensch und generative KI: Trust in Co-Creation“ übernimmt Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau und Mitglied im Direktorium des bidt. „Vertrauen ist der Dreh- und Angelpunkt für den erfolgreichen Einsatz von generativer KI. Mit unserem neuen bidt-Schwerpunkt wollen wir herausfinden, wie wir die Interaktion von Mensch und KI so gestalten können, dass sie langfristig dem Menschen und der Gesellschaft dienlich ist“, fasst sie zusammen. Schmid-Petri forscht zudem an einem eigenen Projekt rund um Vertrauen und KI. Ein weiteres Projekt im Rahmen des neuen Forschungsschwerpunktes leitet der Wirtschaftsinformatiker Prof. Dr. Ulrich Gnewuch.

Die Forschungsvorhaben unter Beteiligung der Universität Passau im Überblick:

  • „KI im Journalismus: Der Einfluss generativer KI auf Objektivität und Dialogbereitschaft in der Debatte um Klimaschutz“ |Leitung Prof. Dr. Hannah Schmid-Petri (bidt / Universität Passau)

Das Projekt erforscht, inwiefern KI in journalistischen Berichten dazu beitragen kann, die Annahmebereitschaft von Botschaften zu erhöhen und die sachliche Auseinandersetzung mit Gegenargumenten zu befördern. Mehr zum Projekt: 

bidt-Projekt: Kann künstliche Intelligenz das Vertrauen in den Journalismus stärken?

bidt-Projekt: Kann künstliche Intelligenz das Vertrauen in den Journalismus stärken?

Wie nehmen Bürgerinnen und Bürger KI-generierte journalistische Inhalte zum Klimawandel wahr?  Diese Frage erforscht ein Team unter der Leitung von Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau, in einem vom bidt geförderten Projekt.

  • „Trustworthy Generative AI Copilots for Data Analytics in Business Decision-Making“ | Prof. Dr. Ulrich Gnewuch (Universität Passau)

Wie treffen Nutzende bei der Interaktion mit einem KI-Copiloten Entscheidungen? Das Projekt untersucht die Gestaltung vertrauenswürdiger generativer KI-Copiloten und deren Einfluss auf die Geschäftsentscheidungen von Nutzenden ohne technischen Hintergrund. Mehr zum Projekt:

Vertrauenswürdige KI-Copiloten für bessere datenbasierte Entscheidungen in Unternehmen

Vertrauenswürdige KI-Copiloten für bessere datenbasierte Entscheidungen in Unternehmen

KI-Copiloten sind bereits in vielen Unternehmen im Einsatz. Hilft das Beschäftigten bei der Datenanalyse und Entscheidungsfindung? Und wenn nein, wie lässt sich das ändern? Unter anderem diese Fragen erforscht ein Team der Universität Passau in einem neuen bidt-Projekt unter der Leitung von Professor Ulrich Gnewuch.

Die geförderten Projekte sind zwei von insgesamt zehn Vorhaben, die das bidt im Rahmen des neuen Forschungsschwerpunkts fördert. Die Vorhaben wurden im Rahmen der bidt-Jahresausschreibung zum Thema Vertrauen und KI ausgewählt und haben sich in einem kompetitiven Verfahren aufgrund ihrer exzellenten Qualität, Aktualität und Relevanz durchgesetzt.

Ergänzend zu den Projekten des Forschungsschwerpunkts wurden im Rahmen der Jahresausschreibung zwei weitere Konsortialprojekte aus Bayern ausgewählt. Eines davon ist ebenfalls an der Universität Passau angesiedelt:

  • „Autoritäre KI: Wie große Sprachmodelle (LLMs) an Russlands Propaganda angepasst werden“ |Prof. Dr. Florian Toepfl (Universität Passau), Prof. Dr. Andreas Jungherr (Universität Bamberg), Prof. Dr. Florian Lemmerich (Universität Passau)

Das Projekt wirft zwei Fragen auf: Wie und mit welchen Konsequenzen werden LLMs unter strenger Aufsicht und Zensur im heutigen Russland entwickelt? Und welche Auswirkungen haben autoritäre Daten, wenn sie in demokratische LLM-gestützte Systeme eingespeist werden? Mehr dazu:

bidt-Projekt zu Autoritärer KI: Wie große Sprachmodelle an Russlands Propaganda angepasst werden

bidt-Projekt zu Autoritärer KI: Wie große Sprachmodelle an Russlands Propaganda angepasst werden

Forschende der Universitäten Passau und Bamberg untersuchen in einem vom bidt geförderten Projekt, wie Russland unter strenger Aufsicht eigene generative KI-Modelle entwickelt und wie sich autoritäre Daten auf KI-Systeme in demokratischen Systemen auswirken.

Die geförderten Projekte stärken an der Universität Passau den Themenschwerpunkt Digitalisierung, in dessen Rahmen sich Forschende ebenfalls interdisziplinär mit den technischen, gesellschaftlichen, ethischen und rechtlichen Folgen von generativer künstlicher Intelligenz befassen.

Prof. Dr. Hannah Schmid-Petri, Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau.

Prof. Dr. Hannah Schmid-Petri

forscht zu öffentlichen Debatten - online wie offline

Wie werden Themen der Digitalisierung öffentlich diskutiert und welche Folgen hat das für politische Prozesse?

Wie werden Themen der Digitalisierung öffentlich diskutiert und welche Folgen hat das für politische Prozesse?

Prof. Dr. Hannah Schmid-Petri ist Inhaberin des Lehrstuhls für Wissenschaftskommunikation an der Universität Passau und Projektleiterin im DFG-Graduiertenkolleg 2720: "Digital Platform Ecosystems (DPE)". Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation und Teil der Jury des Communicator-Preises der DFG. Vor ihrer Zeit in Passau war sie Oberassistentin am Institut für Kommunikations- und Medienwissenschaft der Universität Bern.

Bluesky

Beim Anzeigen des Videos wird Ihre IP-Adresse an einen externen Server (Vimeo.com) gesendet.

Video anzeigen