Neue chinesische KI fordert US-Konkurrenz heraus – solche oder ähnliche Schlagzeilen, wie sie derzeit ein Start-Up aus China erzeugt, würde sich wohl Russlands Präsident Vladimir Putin wünschen. „Russland erhebt den Anspruch, zur Weltspitze der KI-Nationen zu gehören“, sagt Dr. Anna Ryzhova. Sie forscht im vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) geförderten Projekt AI-PROP zur Frage, wie Russland Sprachmodelle nutzt, um seine Propaganda zu verbreiten.
Projektmitarbeitende haben am 20. Juli in die Library Lounge in der Zentralbibliothek der Universität Passau zum ersten AI-PROP-Kamingespräch geladen. Mit auf dem Podium saß Wolfgang Bücherl, Leiter der Vertretung der Europäischen Kommission in München. Moderiert wurde das Gespräch von Dr. Florence Ertel, ebenfalls Postdoktorandin in dem vom bidt geförderten Projekt unter der Leitung von Prof. Dr. Florian Töpfl, Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt Osteuropa an der Universität Passau.
Von einer führenden KI-Nation könne jedoch keine Rede sein, erklärte Forscherin Dr. Ryzhova. Auf dem Oxford Insights Government AI Readiness Index 2025 landete Russland auf Platz 49 von 155 Ländern. Andere autoritär regierte Staaten wie Saudi-Arabien oder die Vereinigten Arabischen Emirate schnitten im Vergleich besser ab. „Trotzdem zeichnet die russische Regierung ein ganz anderes Bild“, schilderte die Kommunikationswissenschaftlerin. Ihr Fazit: Die Ambition sei vor allem rhetorischer Natur. Zugleich versucht Russland, sich im Bereich von KI-Normen und -Ethik als normativer Akteur zu positionieren und damit eine Rolle einzunehmen, deren Bedeutung nicht primär auf technologischer Leistungsfähigkeit beruht.
Russische Propaganda in KI-Antworten
Was Russland hingegen verstanden habe: die eigene Propaganda so erfolgreich zu platzieren, dass Sprachmodelle sie aufgreifen. Eine Analyse der US-amerikanischen Bewertungs-Software NewsGuard, die die Vertrauenswürdigkeit von Nachrichten- und Informationswebseiten anhand journalistischer Kriterien beurteilt, habe ergeben, dass der Chatbot des europäischen KI-Vorzeige-Unternehmens Mistral AI häufig Desinformation wiederholt. Die Hälfte aller Antworten in englischer Sprache und 56 Prozent der Antworten in französischer Sprache enthielten prorussische Narrative. Das Prinzip ist einfach: Je mehr Propaganda in den Trainingsdaten, desto mehr Propaganda in der Ausgabe. Desinformationsnetzwerke wie das Pravda-Netzwerk, das aus tausenden gefälschten Nachrichtenseiten besteht, verbreiten massenhaft russische Narrative im Internet.
„KI hat die russischen Narrative nicht überzeugender gemacht“, so die Einschätzung von Dr. Ryzhova. „Aber: Sie lassen sich schneller kreieren, personalisieren, und das Internet lässt sich schneller fluten.“
Beeinflussung von Wahlen als großes Risiko
Auch der Vertreter der Europäischen Kommission in München, Wolfgang Bücherl, bestätigte, dass er regelmäßig mit russischen Narrativen konfrontiert werde.
Ein hohes Risiko sah Bücherl insbesondere in der Beeinflussung von Wahlen. Als Beispiel führte er Rumänien an, wo der rechtsradikale und prorussische Kandidat Călin Georgescu Wahlkampf auf TikTok betrieb und bei der Präsidentschaftswahl im November 2024 aus dem Stand auf 22,9 Prozent der Stimmen gekommen war und damit die relative Mehrheit erreicht hatte. Die Wahl wurde auf Antrag der zuständigen Wahlkommission annulliert – nicht, wie gerne als Desinformation verbreitet werde, auf Antrag der EU-Kommission.
Ein weiteres Beispiel sei Moldau, wo der pro-russische Oligarch Ilan Shor die offiziellen EU-Beitrittsverhandlungen massiv beeinflusste. Vor dem EU-Referendum 2024 habe dieser 15 Millionen Euro an 130 000 Wählerinnen und Wähler ausgezahlt, die für ein Nein stimmen sollten. „Bei 2,3 Millionen Einwohnern ist das eine ganze Menge“, sagt Bücherl.
Das Pro-EU-Lager setzte sich letztlich mit einer knappen Mehrheit durch - auch aufgrund der Stimmen der im Ausland lebenden Moldauerinnen und Moldauer. Wolfgang Bücherl zitierte EU-Kommissionspräsidentin Ursula von der Leyen: „Wir befinden uns in einem Prozess der hybriden Kriegsführung.“
Dass auch Vertreterinnen und Vertreter der Europäischen Kommission nicht vor Desinformation durch KI gefeit seien, bestätigte Bücherl mit einer Anekdote. Nach der Präsidentschaftswahl in Ungarn sei eine Debatte entbrannt, ob Ungarns neuer Präsident Péter Magyar den von seinem Vorgänger Viktor Orbán eingesetzten EU-Kommissar abziehen könne. Man habe dazu ChatGPT befragt. Die Antwort: Ja, unter bestimmten Umständen sei das möglich. Erst ein Kollege, der genau zu diesem Thema promoviert hatte, konnte aufklären: Ein Land könne nicht einfach seinen Kommissar zurückziehen. Die Legitimität für die Kommissarinnen und Kommissare stamme von den europäischen Organen. Bücherl dazu: „Die KI hätte uns in die Irre geführt.“
Europäisches Demokratieschild als Frühwarnsystem
Was unternimmt nun die EU, um ihre Öffentlichkeiten zu schützen? Moderatorin Dr. Ertel nannte als Initiative das Ende vergangenen Jahres vorgestellte European Democracy Shield, das Europäische Demokratieschild. Bücherl erklärte, dass es sich dabei um keine regulatorische Maßnahme wie dem Digital Services Act handelt, sondern um ein unabhängiges EU-Netzwerk. Es umfasse etwa Wahlbeobachterinnen und -beobachter sowie Forschende aus allen 27 Mitgliedstaaten.
„Es ist ein Netzwerk als Frühwarnsystem gegen Desinformation, gegen hybride Bedrohungen.“ Ein Europäisches Zentrum für demokratische Resilienz soll die Ressourcen der EU und das bereits in den Mitgliedsstaaten vorhandene Wissen bündeln, um Desinformationskampagnen schneller zu erkennen und darauf reagieren zu können. „Wir unterstützen Fact-Checking-Netzwerke, wir stärken Kompetenzen, die in den Mitgliedstaaten bereits vorhanden sind“, sagte Bücherl. Zusätzlich sollen Leitlinien und Handreichungen für Tech-Konzerne erarbeitet werden, die diese bei hybriden Bedrohungen anwenden sollen.
Dies sei allerdings keine Regulierungsmaßnahme, betonte Bücherl. Auch das Zentrum sei keine Institution, sondern eine Organisation, die bereits vorhandene Akteurinnen und Akteure vernetze. „Wir wollen die Vielfalt der vorhandenen Ansätze nutzen, um der Bandbreite an Desinformation bestmöglich entgegenwirken zu können.“
Die Teilnehmenden auf dem Podium beantworteten Fragen aus dem Publikum, das auch online zugeschaltet war. Moderatorin Dr. Ertel zog ein Fazit: Desinformation müsse im Alltag stärker thematisiert werden. Der Dialog in einer pluralistischen Gesellschaft sei unerlässlich, um die demokratische Resilienz zu stärken.
Ein interdisziplinäres Team von Forschenden der Universitäten Passau und Bamberg erforscht, wie Russland und andere Autokratien die Entwicklung von Large Language Models (LLMs), großen generativen Sprachmodellen, regulieren und kontrollieren. Das Team untersucht, wie auf Sprachmodellen basierende Systeme in Russland im Vergleich zu westlichen Demokratien reguliert werden und wie sich die von diesen Systemen generierten Inhalte in demokratischen und autoritären Staaten unterscheiden. Darüber hinaus ergründen die Forschenden die Folgen des Aufstiegs von generativer KI auf den öffentlichen Diskurs in demokratischen und autoritären Gesellschaften. Beteiligt an dem Projekt ist neben Prof. Dr. Töpfl auch der Informatiker Prof. Dr. Florian Lemmerich von der Universität Passau und der Politologe Prof. Dr. Andreas Jungherr von der Universität Bamberg. Das bidt fördert das Projekt seit April 2025 mit einer Laufzeit von drei Jahren. Thematisch knüpft das Projekt an der Universität Passau an dem Forschungs-Profilfeld „Resiliente Demokratien“ an.
