Eröffnung durch Prof. Ulrich Bartosch, Präsident der Universität Passau (Foto: Universität Passau)
Experten aus Industrie und Wissenschaft haben sich am Mittwoch, 13.9., an der Universität Passau getroffen, um über „sichere und zuverlässige Nutzung von KI“ zu diskutieren. Experten-Vorträge und Diskussionsrunden ermöglichten es, über den aktuellen Hype um generative KI wie ChatGPT hinauszuschauen, das Problemfeld zu erörtern sowie Lösungswege zu erkennen. Zu Gast war auch Arvid Rosinski, Chief Information Security Officer der AUDI AG.
Vor 50 geladenen Gästen eröffnete Universitätspräsident Prof. Dr. Ulrich Bartosch die Veranstaltung und unterstrich dabei die Wichtigkeit der IT-Sicherheitsforschung auch für den sicheren und zuverlässigen Einsatz von KI-Systemen. „Die Universität Passau wird nicht müde werden, gemeinsam mit den bayerischen Universitäten und Hochschulen für angewandte Wissenschaften, um eine schlagkräftige vernetzte Forschung und Entwicklung zur Stärkung der Abwehrfähigkeit in Bayern zu ringen“, so Bartosch. Es folgten Vorträge der Passauer Informatiker Prof. Dr. Stefan Katzenbeisser, Inhaber des Lehrstuhls für Technische Informatik, und Prof. Dr. Michael Granitzer, Inhaber des Lehrstuhls Data Science. Katzenbeisser sprach über relevante laufende Forschungsprojekte im Passau Institute of Digital Security (PIDS), das an der Universität Passau interdisziplinär die Forschung zur Digitalen Sicherheit vereint (mit Lehrstühlen aus den Wirtschaftswissenschaften, der Soziologie, der Mathematik, dem Recht sowie der Informatik). Granitzer referierte zu den Problemen und Risiken von KI-Systemen und führte dabei in die zum Verständnis wichtigen Grundlagen heutiger KI-Systeme und ihren grundlegenden Aufbau ein.
Die Universität Passau wird nicht müde werden, gemeinsam mit den bayerischen Universitäten und Hochschulen für angewandte Wissenschaften, um eine schlagkräftige vernetzte Forschung und Entwicklung zur Stärkung der Abwehrfähigkeit in Bayern zu ringen.
Prof. Dr. Ulrich Bartosch, Präsident der Universität Passau
Wie KI in einem Unternehmen wie der AUDI AG eingesetzt wird, erläuterte Arvid Rosinski (Chief Information Security Officer der AUDI AG). KI komme schon lange und sehr erfolgreich, aber immer erst nach eingehender Untersuchung und einer Risikoabwägung zum sinnvollen Einsatz. „Die Möglichkeiten, die KI in der betrieblichen Anwendung mit sich bringt, haben zuletzt durch ChatGPT eine hohe Aufmerksamkeit zu diesem Thema nach sich gezogen. Ich bin überzeugt, dass eine stärkere Vernetzung mit der akademischen Forschung große Chancen birgt. Ich würde einen solchen weiterführenden Dialog sehr begrüßen“, so Rosinski.
Einigkeit bestand allgemein darin, dass es sowohl Forschungsbedarf als auch Entwicklungspotenzial gibt. Um einen sicheren und zuverlässigen Einsatz von Künstlicher Intelligenz zu ermöglichen, braucht es eine interdisziplinäre Zusammenarbeit. „In einer Zeit, in der KI-Systeme in fast allen Sektoren unseres Lebens immer präsenter werden, ist ein rascher, intersektorialer und interdisziplinärer Forschungsansatz unerlässlich, um deren Sicherheit und Zuverlässigkeit zu gewährleisten.“ gab Prof. Dr. Michael Granitzer zu bedenken. Insbesondere wurde der benötigte Kompetenzaufbau hervorgehoben, um als Mensch das KI-System richtig einschätzen und als Werkzeug sicher nutzen zu können.
In einer Zeit, in der KI-Systeme in fast allen Sektoren unseres Lebens immer präsenter werden, ist ein rascher, intersektorialer und interdisziplinärer Forschungsansatz unerlässlich, um deren Sicherheit und Zuverlässigkeit zu gewährleisten.
Prof. Dr. Michael Granitzer, Lehrstuhl für Data Science an der Universität Passau
An der abschließenden Podiumsdiskussion unter der Leitung von Projektleiter Dr. Henrich C. Pöhls nahmen neben den Vortragenden auch Taras Holoyad (zuständig für KI Standardisierung bei der Bundesnetzagentur) und Prof. Dr. Joachim Posegga (Inhaber des Lehrstuhls für IT-Sicherheit an der Universität Passau) teil. Posegga verglich die disruptive Kraft der aktuellen generativen KI-Systeme mit der Wirkung des Internetzugangs für private Haushalte. Damit sei die Problemstellung verbunden, dass KI-Systeme seit ChatGPT nicht mehr nur durch speziell geschultes Personal, sondern durch jede Anwenderin und jeden Anwender sicher und zuverlässig nutzbar sein sollten. Taras Holoyad gab den rund 50 Teilnehmerinnen und Teilnehmern Einblick in die derzeit laufenden Standardisierungsbestrebungen in Deutschland und Europa. „In Kooperation mit Forschung und Industrie erarbeitet die Bundesnetzagentur Schemen zur Bewertung von KI-Systemen, insbesondere hinsichtlich Transparenz und Erklärbarkeit. Währenddessen münden entsprechende Konzepte in nationaler sowie darüber hinaus weltweiter Normungsarbeit. Zur Sicherstellung von einheitlicher Anwendbarkeit der Konzepte diskutiert die Bundesnetzagentur im Rahmen der Kooperation konkrete Implementierungen für bestehende KI-Systeme. Aus dieser Perspektive zielt die Bundesnetzagentur auf einen vertrauensvollen Umgang mit KI ab, insbesondere zur Umsetzung von gesetzlichen Anforderungen aus dem geplanten, europäischen Gesetz zu KI “, erläuterte Holoyad.
Projekte im Bereich Cybersicherheit und Datenschutz
In der Pause und nach der Podiumsdiskussion konnten sich die Teilnehmerinnen und Teilnehmer mit den Experten austauschen. Aus Sicht der Forschung und aus Sicht der Anwenderinnen und Anwender spielt die Sicherheit und Zuverlässigkeit bei der Nutzung von KI-Systemen eine ganz herausragende Rolle. Sicherheit und Zuverlässigkeit bilden die Grundlage für einen weitreichenden und vertrauensvollen Einsatz von Technologien in unserer Gesellschaft – darin waren sich alle einig und dies gilt umso mehr für die neuen generativen KI-Systeme. Die Nutzung der bereits in Bayern vorhandenen Expertise für noch mehr Forschung und noch bessere Ausbildung auch in diesem Anwendungsbereich der Digitalen Sicherheit wurde vielfach betont.
Eine bayernweite Vernetzung von Universitäten, Hochschulen, außeruniversitären Forschungseinrichtungen und den Anwendern in Industrie und Gesellschaft, wie es die Initiative für das Bayerische Forschungsnetzwerk Digitale Sicherheit vorschlägt, wurde in den Gesprächen eindeutig begrüßt. Dieses Netzwerk soll die konsequente Weiterentwicklung existierender Zusammenarbeit von Spitzenforscherinnen und -forschern an verschiedenen bayerischen Standorten, die schon jetzt über eine signifikante Expertise im Themenfeld der Digitalen Sicherheit verfügen, ermöglichen.
Geplante Struktur des Bayerischen Forschungsnetzwerkes Digitale Sicherheit. ©Universität Passau
Die administrative Leitung des geplanten Netzwerks übernimmt die Universität Passau. Sie koordiniert den Aufbau und die nachhaltige Vernetzung, übernimmt essenzielle Administrationsaufgaben für das Netzwerk als Ganzes und koordiniert netzwerkweite interne und gemeinsame öffentliche Aktivitäten. Ein solches Forschungsnetzwerk zum Thema „Digitale Sicherheit“ existiert bisher weder in Bayern noch deutschlandweit. Die Präsidentinnen und Präsidenten der bayerischen Universitäten bekräftigten bereits am 17. März 2023 ihre Bereitschaft, das Bayerische Forschungsnetzwerk Digitale Sicherheit als gemeinsame Initiative aufzubauen und erklärten ihre Absicht, sich an dessen Aktivitäten zu beteiligen.
Mit drei regionalen Bereichen für Süd-, Ost- und Nord-Bayern kann das geplante Netzwerk auch regionale Anwenderinnen und Anwender aus Wirtschaft und Gesellschaft mit ihren konkreten Problemen und lokalen Lösungsangeboten einbinden. Dies ermöglicht eine koordinierte Aktivierung bayerischer Expertise im Bereich Digitaler Sicherheit im Sinne “verteilter Exzellenz“ als bestmögliche Vorgehensweise um die Resilienz der bayerischen Wirtschaft und Gesellschaft gegenüber existenzgefährdenden digitalen Attacken zu erhöhen.
Prof. Dr. Stefan Katzenbeisser
Wie lassen sich kritische Infrastrukturen in einer vernetzten Welt gegen Cyber-Attacken schützen?
Wie lassen sich kritische Infrastrukturen in einer vernetzten Welt gegen Cyber-Attacken schützen?
Prof. Dr. Stefan Katzenbeisser ist Inhaber des Lehrstuhls für Technische Informatik an der Universität Passau. Er forscht zur Cybersicherheit von eingebetteten Systemen, zu sicheren kritischen Infrastrukturen sowie zum technischen Datenschutz. Er ist Sprecher des neuen, vom Bayerischen Wissenschaftsministerium geförderten Forschungsverbunds „ForDaySec - Sicherheit in der Alltagsdigitalisierung“, in dem Forscherinnen und Forscher aus der Informatik, der Rechtswissenschaft und der Soziologie neuartige technische Verfahren für die Absicherung des digitalen Alltags erarbeiten. Darüber hinaus beteiligt er sich an der vom Fraunhofer HHI koordinierten Forschungsinitiative „6G Research and Innovation Cluster (6G-RIC)“ mit dem Ziel, Mobilfunksysteme der sechsten Generation über alle Technologiegrenzen hinweg zu entwickeln, sowie an Forschungsprojekten zur sicheren Mobilität.
Prof. Dr. Michael Granitzer
Wie lassen sich Bedeutungszusammenhänge in einer Flut von digitalen Medien finden?
Wie lassen sich Bedeutungszusammenhänge in einer Flut von digitalen Medien finden?
Prof. Dr. Michael Granitzer ist Inhaber des Lehrstuhls für Data Science. Der Schwerpunkt seiner Forschung liegt auf der Nutzung maschineller Lerntechniken und intelligenter Mensch-Maschine Schnittstellen.
Prof. Dr. Joachim Posegga
Wie lassen sich IT-Anwendungen im Alltag sicher gestalten?
Wie lassen sich IT-Anwendungen im Alltag sicher gestalten?
Prof. Dr. Joachim Posegga ist Inhaber des Lehrstuhls für IT-Sicherheit an der Universität Passau. Er promovierte am KIT und arbeitete zehn Jahre in der Industrieforschung im Bereich Sicherheit, bevor er an die Universität Hamburg berufen wurde, um den Arbeitsbereich Sicherheit in Verteilten Systemen des Departments für Informatik zu leiten. 2009 wechselte er nach Passau und übernahm die Leitung des Instituts für IT-Sicherheit und Sicherheitsrecht (ISL). Seine Forschungsschwerpunkte sind Web-Security, Sicherheitsarchitekturen und -Protokolle mit einem Schwerpunkt auf dem Internet der Dinge.
