Frage: Wie kann man einen virus auf einer KI beheben?

Elisabeth Pachl Beantwortet am 20 Jun 2022:

Eine KI ist in dem Sinne keine Software, die man mit herkömmlichen Computerviren (z.B. Trojaner) angreifen kann. Man kann sich allerdings schon täuschen und schrittweise umtrainieren, damit sie eine andere Aufgabe erfüllt als zuvor. 2017 gelang es Forschern, einen Bilderkennungsalgorithmen, wie sie etwa in autonome Fahrzeugen genutzt werden, optisch zu täuschen. Bei den sogenannten „Adversarial Attacks“ trainieren Angreifer KI-Systeme gezielt um. Die Folge eines solchen Angriffs kann zum Beispiel wie folgt aussehen: Statt Stoppschild erkennt die KI am Ende ein Verkehrszeichen zur Geschwindigkeitsregelung.

Das Problem an KIs ist folgendes:Viele KI-Softwaremodelle sind Open Source, d.h. jeder kann sie einsehen. Dieses Wissen können Angreifer ausnutzen. Wenn wir wieder das Beispiel der Erkennung von Verkehrszeichen nehmen: Die Forscher manipulieren die Input-Bilddaten, beobachten, wie sich die Effekte auswirken und trainieren eine KI in kleinen Schritten um. Was für den Fahrer am Ende aussieht wie ein Stoppschild mit harmlosen Aufklebern, missinterpretiert der fehlgeleitete Algorithmus als grüne Ampel oder Fußgänger. Im autonomen Fahren ein großen Problem.

Es gibt aber Wege die KI zu schützen und abzusichern vor solchen Angriffen. Eine der besten Schutzmöglichkeiten setzt dabei bei den Daten selbst an, mit denen eine KI trainiert wird. Man sollte immer Quellen und Daten prüfen, um sicherzustellen, dass sie niemand manipuliert hat. So wird sichergestellt, dass die KI nur Daten verarbeitet, die sie auch verarbeiten soll. Eine andere Möglichkeit ist die Folgende: Um die Resilienz der Algorithmen (das heißt viel Manipulation die KI aushält ohne ihr Verhalten zu ändern) zu steigern, können Entwickler potentielle Angriffe in den eigenen Datensatz integrieren und mittrainieren. Man kann auch mit mathematischen Verfahren Daten gezielt verrauschen, ohne dass sie ihre statistische Aussagekraft verlieren. So sind sie auch nicht so anfällig für Manipulation.