European Media Partner

Wettrüsten in der Cyberwelt

Künstliche Intelligenz (KI) ist Teil unseres Alltags. Meist unbemerkt sichert sie Prozesse in vielen Lebensbereichen ab – birgt aber auch neue Risiken.

KI arbeitet im Hintergrund für unsere Sicherheit, ohne dass Sie es wissen oder dafür ein Produkt kaufen müssen.

Lernende Systeme sichern medizinische Diagnosen, vereinfachen Produktionsprozesse in der Industrie – und sie schützen uns vor Cyberangriffen. „KI arbeitet im Hintergrund für unsere Sicherheit, ohne dass Sie es wissen oder dafür ein Produkt kaufen müssen“, erläutert Prof. Jörn Müller-Quade die unsichtbare Präsenz der Systeme. Beispiele aus dem Alltag hat der Wissenschaftler zahlreiche parat: Systeme, die unsere Einkäufe mit der Kreditkarte erfassen, blockieren unübliche Zahlungen und veranlassen eine Nachfrage beim Karteninhaber. Spamerkennung nutzt neben modernsten Datenanalysetechniken lernende Systeme, um die Mailflut einzudämmen. KI kontrolliert den Netzwerkverkehr in Firmen und erkennt ungewöhnliches Verhalten als Angriff.


Prof. Jörn Müller-Quade, Inhaber des Lehrstuhls für Kryptographie und IT-Sicherheit am Karlsruher Institut für Technologie und Sprecher des Kompetenzzentrum für Cybersicherheit KASTELund Leiter der Arbeitsgruppe "IT-Sicherheit und Privacy" in der Plattform Lernende Systeme 
Foto: Presse

Künftig, so prognostiziert Müller-Quade, könnten so auch Fake-News im Abgleich zu anderen Nachrichten auf ihre Plausibilität geprüft und leichter als solche erkannt oder typische Softwarefehler durch KI-basierte Systeme identifiziert und eliminiert  werden – für eine verbesserte IT-Sicherheit. „Um Schwachstellen zu finden und IT-Systeme gegen Angriffe zu härten, werden Penetrationstests durch Hacker ‚von der guten Seite‘ durchgeführt. Auch hier wird KI in Zukunft unterstützen“, erläutert der Professor, der am Karlsruher Institut für Technologie den Lehrstuhl für Kryptographie und IT-Sicherheit innehat.

„Das Problem ist jedoch, dass ein solches Angriffssystem auch missbraucht werden kann.“ Dieses Dual-Use-Potenzial Lernender Systeme beleuchtete Müller-Quade gemeinsam mit weiteren Experten kürzlich in einem Whitepaper der Plattform Lernende Systeme. Parallel zur zunehmenden Sicherheit der IT-Systeme sieht er die Entwicklung der Angriffsmöglichkeiten – und damit ein Wettrüsten in der Cyberwelt: Individuell zugeschnittene Nachrichten machen es Spamfiltern schwer und bringen Nutzer zur unbedachten Preisgabe von Vertraulichem, Fake-News werden plausibler, Angriffe auf Verschlüsselungsverfahren erfolgreicher. Durch Gesichtserkennung, Stimmanalysen, die Tippfrequenz oder den Beschleunigungssensor in unserem Handy gäben wir zudem schon heute verschiedensten Unternehmen unbedacht Zugriff auf Privates – und könnten längst nicht mehr beurteilen, was wir preisgäben.

Doch Künstliche Intelligenz kann nicht nur Instrument der Angreifer, sondern auch ihre Zielscheibe werden. KI-Systeme werden nicht klassisch programmiert, sondern nutzen maschinelle Lernverfahren wie neuronale Netze. Werden die Daten, auf deren Basis gelernt wird, manipuliert, fehlt der KI das Kontextwissen, das ein Mensch mitbringen würde, um die Manipulation zu bemerken. So könne beispielweise ein Marker im Bild, ein simpler veränderter Pixel, der einem autonomen Fahrsystem signalisiere, dass das Stoppschild bei seinem Auftauchen „Vorfahrt“ bedeute, verheerende Folgen haben. „Es wird entscheidend sein, dass wir die Daten, aufgrund derer gelernt wird, im Griff haben“, sagt Prof. Müller-Quade. Zugleich könnten neben solch absichtlichem „Data-Poisoning“ unbewusste Manipulationen der KI nicht vermieden werden, wenn diese auf der Basis menschlicher Entscheidungen lerne. Vorurteile und Vorstellungen von Gerechtigkeit würden zu Beeinflussungen führen.

Wenn der Mensch damit auch als Kontrollinstanz der Künstlichen Intelligenz nur bedingt tauge, dann bedürfe es weiterer Mechanismen, so der Wissenschaftler. „Sinnvoll sind hier andere Systeme, die nicht KI-basiert sind, sondern auf der Basis klassischer Statistiken arbeiten.“

Teile diesen Artikel

Journalist

Ulrike Christoforidis

Weitere Artikel