Trend Micro veröffentlicht neue Studienergebnisse. Diese zeigen: Unternehmen setzen verstärkt auf künstliche Intelligenz (KI), um ihre Cyberabwehr zu stärken, äußern jedoch zunehmend auch Besorgnis über das Potenzial dieser Technologie, ihre Angriffsfläche zu vergrößern und neue Risiken zu schaffen.
Laut der Studie setzen 74 % der deutschen Unternehmen (81 % weltweit) bereits KI-gestützte Tools als Teil ihrer Cybersicherheitsstrategie ein, weitere 22 % (16 % weltweit) prüfen aktiv deren Implementierung. Nahezu alle Befragten (96 % in Deutschland, 97 % weltweit) sind offen für den Einsatz von KI in irgendeiner Form.
48 % der deutschen Befragten (52 % weltweit) nutzen sie bereits für wichtige Security-Prozesse wie das automatisierte Auffinden von Assets, Risikopriorisierung und Anomalieerkennung. Zudem hoffen viele Verantwortliche auf die Möglichkeiten von KI, um ihre Cybersicherheit zu verbessern: Bei 42 % der befragten Unternehmen in Deutschland wie weltweit haben KI und Automatisierung oberste Priorität zur Verbesserung der Cybersicherheit.
Doch die zunehmende Verbreitung von KI-Lösungen birgt auch erhebliche Risiken. Überwältigende 93 % der deutschen Unternehmen (94 % weltweit) glauben, dass sich KI in den nächsten drei bis fünf Jahren negativ auf ihre Cyberrisiken auswirken wird.
Die Hälfte (50 % in Deutschland, 53 % weltweit) erwartet eine Zunahme des Umfangs und der Komplexität von KI-gesteuerten Angriffen, die sie zwingen werden, ihre bestehenden Cybersicherheitsstrategien zu überdenken und neu aufzustellen.
Zu den größten Bedenken deutscher Unternehmen beim Einsatz von KI zählen:
- das Risiko der Offenlegung sensibler Daten (39 % in Deutschland, 42 % weltweit)
- die Möglichkeit, dass geschützte Daten von nicht vertrauenswürdigen Modellen ausgenutzt werden (35 % in Deutschland, 36 % weltweit)
- die Herausforderungen bei der Überwachung durch die Zunahme neuer Endpunkte und APIs (33 % in Deutschland, 31 % weltweit)
- die Entstehung von Blind Spots durch die Verbreitung von Schatten-IT (32 % in Deutschland, 31 % weltweit)
- die Ungewissheit darüber, wie Daten von KI-Systemen verarbeitet und gespeichert werden (28 % in Deutschland, 38 % weltweit)
- ein erhöhter Compliance-Druck (22 % in Deutschland, 33 % weltweit)
„KI birgt ein enormes Potenzial für die Stärkung der Cyberabwehr, von der schnelleren Erkennung von Anomalien bis zur Automatisierung zeitaufwändiger Aufgaben.“, berichtet Rachel Jin, Chief Enterprise Platform Officer bei Trend Micro.
„Aber Angreifer sind ebenso eifrig dabei, KI für ihre Zwecke zu nutzen, und das schafft eine sich schnell verändernde Bedrohungslandschaft. Unsere Forschung und unsere Praxistests machen deutlich, dass Cybersicherheit von Anfang an in KI-Systeme integriert werden muss. Es steht einfach zu viel auf dem Spiel.“
Das Spannungsverhältnis zwischen Chancen und Risiken zeigte sich deutlich beim Hacking-Wettbewerb Pwn2Own von Trend Micro in Berlin, bei dem erstmals die Sicherheit von KI-Systemen auf die Probe gestellt wurde. Die Ergebnisse lieferten eine aufschlussreiche Momentaufnahme zum aktuellen Stand der KI-Sicherheit:
Zwölf Versuche zielten auf vier wichtige KI-Frameworks ab, wobei der NVIDIA Triton Inference Server die meiste Aufmerksamkeit erhielt. Chroma, Redis und das NVIDIA Container Toolkit wurden ebenfalls erfolgreich ausgenutzt, wobei in einigen Fällen nur ein einziger Fehler verwendet wurde, um eine vollständige Kompromittierung zu erreichen.
Insgesamt wurden sieben bislang nicht bekannte Zero-Day-Schwachstellen in den KI-Frameworks aufgedeckt. Die Hersteller der Systeme haben ab dem Zeitpunkt der Entdeckung 90 Tage Zeit, um die Schwachstellen zu beheben, bevor Trend Micro die technischen Details veröffentlicht.
Mit der zunehmenden Integration von KI in die IT-Umgebungen von Unternehmen fordert Trend die Sicherheitsverantwortlichen auf, die dynamische Risikolandschaft proaktiv zu bewerten und jede Phase der KI-Einführung durch strenge Security-Maßnahmen abzusichern.