«KI» beschleunigt nicht nur Prozesse und Materialflüsse - und hier eben auch die Logistik. Sie hilft ihrerseits - vice versa - auch Angreifern, schneller in kritische Infrastrukturen einzudringen. Warnt die Chefin des deutschen Bundesamtes für Sicherheit in der Informationstechnik auf der Münchner Sicherheitskonferenz (MSC), Claudia Plattner.

Auf der Münchner Sicherheitskonferenz sprach die Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, bei einer Diskussion unter dem Titel «HackGPT? Cybersecurity in the Age of Artificial Intelligence» mit internationalen Sicherheitsexpertinnen und -experten sowie Entscheiderinnen und Entscheidern weltweit führender Technologieunternehmen. Die Fachleute diskutierten darüber, wie es gelingen kann, die Chancen Künstlicher Intelligenz zu nutzen und gleichzeitig die Risiken von KI im internationalen Sicherheitskontext zu reduzieren.

Hybride Gefahren aus dem Cyberraum nehmen zu und wirken sich immer häufiger zu sicherheitsrelevanten Risiken aus. Auch unter Zuhilfenahme Künstlicher Intelligenz, so Plattner, gelinge es Angreifenden immer schneller und effizienter zu agieren.

Die Diskutanten waren sich darüber einig, dass man sich auch mit Blick auf viele in diesem Jahr anstehende Wahlen auf multiple Angriffsszenarien gefasst machen müsse, deren Ziel es sei, Chaos zu stiften und Vertrauen in Regierungen zu zerstören. So müsse man mit Cyberattacken auf Kritische Infrastrukturen in Kombination mit breit angelegten Desinformationskampagnen rechnen.

Logistik - wichtiger Teil der Infrastruktur. Fotos: MSC

Vor diesem Hintergrund sei eine enge und transparente Zusammenarbeit zwischen staatlichen Akteuren, Wirtschaft und Wissenschaft essentiell, um die Resilienz im Cyberraum signifikant zu erhöhen. Plattner: «Hinsichtlich Cyberbedrohungen im Zusammenhang mit Künstlicher Intelligenz kommt es darauf an, dass wir als Verteidiger mit den Angreifenden Schritt halten». Dafür seien drei Punkte entscheidend.

Erstens sei Geschwindigkeit von grösster Bedeutung, zum Beispiel beim Umgang mit Sicherheitslücken. Plattner: «Eine neue Schwachstelle kann mit KI innerhalb weniger Tage oder sogar Stunden ausgenutzt werden. Wir müssen dafür sorgen, dass unsere Abwehrsysteme mindestens ebenso schnell und effizient funktionieren». Dabei könne wiederum KI helfen.

Der zweite entscheidende Faktor sei der Zugang zu und Umgang mit Informationen: Grosse KI-Sprachmodelle können durch «prompt injections» ausgetrickst werden, so dass sie sensible Informationen preisgeben. «Wir müssen also sicherstellen, dass nur notwendige Informationen in KI-Werkzeugen wie LLMs gespeichert werden, und verhindern, dass Unbefugte durch KI sensible Informationen erlangen». Das erfordere gemeinsame Anstrengungen der Technologiekonzerne.

Gemeinsame Interessen: C.Plattner mit FBI-Direktor Chr. A. Wray. Foto: BSI

Der dritte Punkt sei Technologiekompetenz. «Wir müssen die Herausforderung annehmen und schnellstmöglich sicherstellen, dass wir genügend Fachleute auf unserer Seite haben, die KI verstehen, um unseren Technologievorsprung halten zu können», so Plattner. «Hierbei sind Kooperationen zwischen öffentlicher Hand und privater Wirtschaft, so genannte Public Private Partnerships, unabdingbar.»

Das BSI habe sein KI-Portfolio deutlich erweitert und ein Kompetenzzentrum eingerichtet, das sich mit Bewertungsverfahren, Regulierungsmassnahmen und dem Schutz von Verbraucherinnen und Verbrauchern im KI-Kontext befasst. Das BSI betrachte KI-gestützte Erkennungssysteme zur Cyberabwehr und forscht zu KI in Bereichen wie beispielsweise dem Finanz- und Gesundheitssektor, dem autonomen Fahren und in Bezug auf Technologien zur Sicherung des Grenzverkehrs.

www.securityconference.org/klk.