Maher Yamout, leitender Sicherheitsforscher im Global Research and Analysis Team von Kaspersky (GReAT), warnte davor, dass der unkontrollierte Einsatz von KI-Systemen neue Schwachstellen und Risiken für Organisationen schaffen kann, insbesondere für staatliche Stellen und Betreiber kritischer Infrastrukturen.
Yamout sagte gegenüber der Anadolu-Agentur, dass eine wachsende Zahl von Organisationen begonnen habe, KI einzusetzen, ohne die Sicherheitsrisiken, die mit ihrem Betrieb und ihrer Integration in bestehende Systeme verbunden sind, ausreichend zu bewerten. Das Problem umfasst ihm zufolge Fälle, in denen den Systemen umfassendere Zugriffsberechtigungen als nötig erteilt werden, damit sie ihre Aufgaben ausführen können.
Berechtigungen und Daten im Zentrum des Risikos
Der Forscher erklärte, dass ein Angriff auf ein KI-System einem Angreifer ermöglichen könnte, die Berechtigungen auszunutzen, die die Organisation dem System selbst erteilt hat. Das Risiko könne sich auch auf die Daten erstrecken, die das System während seines Betriebs sammelt, da diese Informationen zu einem Diebstahlziel werden könnten, wenn der Angreifer die Kontrolle über das System erlangt.
Der Warnung zufolge beschränkt sich dies nicht auf den Zugriff auf Datenbanken, sondern betrifft auch die Systeme und Dienste, mit denen die KI verbunden ist. Je größer der Zugriffsbereich, desto mehr Ressourcen könnten im Falle eines Angriffs ausgenutzt werden.
Was sollten Organisationen überprüfen?
Yamout rief jede Organisation, die KI einsetzt, dazu auf, eine umfassende Bewertung durchzuführen, in der der Zweck des Systemeinsatzes, die Daten, auf die es zugreifen kann, und die mit ihm verbundenen Systeme festgelegt werden. Außerdem betonte er, dass die Berechtigungen auf dem niedrigstmöglichen Niveau gehalten und dem System nur die für die Erfüllung seiner Aufgabe erforderlichen Daten bereitgestellt werden sollten.
Er wies zudem auf die Notwendigkeit hin, die Internetverbindung des Systems zu kontrollieren, und warnte davor, dass ein unkontrollierter Zugriff zum Abfluss sensibler Informationen führen könnte. Diese Empfehlungen zeigen, dass die Einführung von KI in eine Betriebsumgebung nicht als isolierte Softwareergänzung behandelt werden sollte, sondern als neues Element mit Berechtigungen und Verbindungen, die festgelegt und überwacht werden müssen.
Anhaltende Angriffe auf Organisationen in der Türkei
Yamout stellte die Risiken der KI in einen größeren Zusammenhang mit staatlich unterstützten Cyber-Spionageaktivitäten. Er sagte, dass Gruppen fortgeschrittener, andauernder Bedrohungen (APT) ihre Methoden entsprechend regionalen und globalen Entwicklungen veränderten und staatliche sowie finanzielle Organisationen und Stellen mit sensiblen Daten angriffen.
Er erklärte, dass das Hauptziel dieser Gruppen darin bestehe, möglichst lange unentdeckt in den Systemen zu bleiben, um Daten zu sammeln. Er fügte hinzu, dass Informationen für Angreifer in Zeiten geopolitischer Spannungen wertvoller würden, und wies darauf hin, dass verschiedene APT-Gruppen die Türkei in den vergangenen Monaten und im vergangenen Jahr angegriffen hätten.
Die certi.news-Einordnung
Die praktische Veränderung, auf die diese Warnung hinweist, ist nicht das Auftreten einer bestimmten Schwachstelle in einem bestimmten Produkt, sondern die Verlagerung der KI in eine Position, in der sie mitunter weitreichende Berechtigungen, Daten und Verbindungen besitzt. Daher sollten die Beschränkung der Berechtigungen und die Kontrolle des Zugriffs einer Ausweitung des Einsatzes vorausgehen, insbesondere in kritischen Umgebungen.
Die Quelle betont außerdem, dass technische Lösungen allein nicht ausreichen; Yamout unterstrich die Bedeutung, das Bewusstsein der Beschäftigten für die Risiken von Phishing und Social Engineering zu stärken. Die Aussage enthält keine Einzelheiten zu einem konkreten Angriffsvorfall oder zu einem Rahmen zur Messung des Risikoniveaus. Daher bleiben die Empfehlungen allgemein und müssen von jeder Organisation im Rahmen einer eigenen Bewertung ihrer Systeme und Daten umgesetzt werden.