Zum Inhalt springen

KI-Nachwuchsforschungsgruppe CAROLL: Rhetorik-geschulte Algorithmen gegen Hass im Netz

KI-Nachwuchsforschungsgruppe CAROLL: Rhetorik-geschulte Algorithmen gegen Hass im Netz

Algorithmen, wie sie Aristoteles gefallen hätten: Ein Team der Universität Passau trainiert Künstliche Intelligenz mit Erkenntnissen aus der Jahrtausende alten Kunst der Rhetorik. Dieses KI-System könnte sowohl versteckte beleidigende Sprache im Netz erkennen, als auch das juristisch bessere Argument.

In dem BMBF-Projekt „CAROLL – Computergestützte Rhetorik in Social Media und Recht“ wählt ein Passauer Forschungsteam einen neuartigen Ansatz, um fundamentale Probleme bisheriger Systeme Künstlicher Intelligenz (KI) anzugehen: „Wir sollten zu den Grundlagen zurückkehren, um wirklich zu verstehen, wie Intelligenz funktioniert, damit wir Systeme der KI aufbauen können, die nachhaltig, nutzbar und ethisch vertretbar sind“, sagt Jelena Mitrović, Juniorprofessorin für Computational Rhetoric and Natural Language Processing (NLP) an der Universität Passau. 

In dem Projekt CAROLL kombinieren die Informatikerinnen und Informatiker um Prof. Dr. Mitrović numerische Ansätze wie maschinelles Lernen mit Erkenntnissen aus der Jahrtausende alten Kunst der Rhetorik. „Wir wollen herausfinden, warum eine bestimmte Äußerung überzeugender ist als eine andere, abhängig von den zugrundeliegenden rhetorischen Strukturen. Wir wollen sehen, wie Überzeugungskraft entsteht und wie wir sie automatisch erkennen können“, erklärt Prof. Dr. Mitrović.

Computergestützte Rhetorik ist ein Ansatz zur Verarbeitung natürlicher Sprache, dem Natural Language Processing (NLP). Das Passauer Team verknüpft diesen Ansatz mit dem Argumentation Mining, ebenfalls ein Forschungsbereich innerhalb des NLP. Argumentation Mining kommt bereits in Sozialen Medien zum Einsatz, um beleidigende Sprache zu erkennen. Allerdings stößt die Technologie bislang an Grenzen. Ironie oder nicht offensichtliche Beleidigungen erkennt sie nicht. Ob der Passauer Ansatz dazu imstande ist, wird das Team an aufgeheizten Debatten zum Thema Klimakrise und Impfkritik testen.

Denkbar sind noch andere Anwendungsfälle für das in Rhetorik geschulte KI-System: So erforscht das Passauer Team den Einsatz bei juristischen Texten, um das aus rechtlicher Sicht bessere Argument zu erkennen. Daraus entwickelt es Werkzeuge, die in der Lehre zum Einsatz kommen könnten: Beispielsweise könnte das KI-System Studierenden bei der Vorbereitung auf juristische Prüfungen helfen. Umgekehrt könnte es die Professorinnen und Professoren bei der Korrektur der Prüfungen unterstützen.

Das Projekt baut auf vorhandene Arbeiten von Prof. Dr. Mitrović auf: Die Forscherin hat eine Ontologie rhetorischer Figuren entwickelt. Ontologien sind in der Informatik systematische Beschreibungen von Begriffen und deren Beziehungen zueinander, also eine Art Lexikon für Künstliche Intelligenz. Prof. Dr. Mitrović ist sowohl Expertin für Computersprache als auch für natürliche Sprache: Die Informatikerin hat einen Master-Abschluss in Neugriechisch mit Nebenfächern in Altgriechisch und Englisch. Unterstützung erhält sie in dem Projekt zudem von Forscherinnen und Forschern der Universität Passau aus anderen Disziplinen: Hannah Schmid-Petri, Professorin für Wissenschaftskommunikation, berät im Bereich Social Media. Die Juristen Prof. Dr. Urs Kramer und Prof. Dr. Kai von Lewinski unterstützen bei möglichen Anwendungen im rechtlichen Bereich.

Das Bundesministerium für Bildung und Forschung fördert das Projekt über eine Laufzeit von vier Jahren.


Text: Kathrin Haimerl

 

Projektleitung an der Universität Passau Prof. Dr. Jelena Mitrović (Lehrstuhl für Data Science)
Laufzeit 01.10.2020 - 30.09.2024
Mittelgeber
BMBF - Bundesministerium für Bildung und Forschung
BMBF - Bundesministerium für Bildung und Forschung
Bluesky
Diese Seite teilen

Beim Anzeigen des Videos wird Ihre IP-Adresse an einen externen Server (Vimeo.com) gesendet.

Video anzeigen