Nur wenige Unternehmen können den sicheren KI-Betrieb garantieren

Unternehmen setzen immer stärker auf Künstliche Intelligenz – doch wirklich sicher betrieben wird sie nur selten. Laut einer aktuellen Umfrage von Delinea glauben zwar 93 % der Verantwortlichen, dass ihre KI-Systeme ausreichend geschützt sind, tatsächlich kann das aber nicht einmal die Hälfte garantieren. Fehlende Sichtbarkeit, mangelnde Governance und der zunehmende Einsatz von Agentic AI machen viele Organisationen anfällig für Risiken.

An der Umfrage haben weltweit über 1.700 IT-Entscheidungsträger teilgenommen. Demnach bestätigen lediglich 44 % der Befragten, dass ihre Sicherheitsarchitektur vollständig für den sicheren Einsatz von KI gerüstet ist – und das, obwohl sie insgesamt großes Vertrauen in ihre aktuellen Fähigkeiten haben.

Die Umfrage offenbart eine beträchtliche Kluft: Einerseits verlassen sich Unternehmen auf die Strategien, mit denen sie ihre KI-Systeme absichern, andererseits weisen ihre KI-Tools erhebliche Funktionsdefizite auf. Obwohl 93 % von ihnen glauben, dass sie ausreichend Maßnahmen ergriffen haben, um ihre Machine Identities vor KI-gestützten Manipulationen und Angriffen zu schützen, haben tatsächlich nur 61 % vollständige Einsicht in sämtliche Identitäten.

Lediglich 48 % haben Identity Governance für ihre KI-Systeme eingerichtet. Diese eingeschränkte Sichtbarkeit kann unter anderem kritische Folgen für Unternehmen nach sich ziehen, die Agentic AI implementiert haben – laut Umfrage sind das 66 % der befragten Unternehmen. Denn dieses Defizit macht die KI-Agenten anfällig für verschiedene Risiken wie ungeprüfte automatisierte Entscheidungen oder den Zugriff durch Cyberkriminelle.

„Agentic AI braucht Agentic Security. Unternehmen müssen ihre Herangehensweise an Identitäten ändern und adaptive, risikobewusste Systeme aufbauen, die jede Aktion verifizieren und absichern – unabhängig davon, ob sie von Menschen oder Machine Identities ausgelöst werden“, so Andreas Müller, VP Enterprise Sales Central & Eastern Europe bei Delinea.

„Im Gegensatz zu klassischen rollenbasierten Ansätzen erfordern gerade KI-Agenten deutlich granularere und dynamischere Identity-Access-Kontrollen. Darüber hinaus ist es für jedes Unternehmen entscheidend, ein umfassendes KI-Governance-Modell zu etablieren, damit sie die Technologie sicher und im Sinne ihrer Zweckbestimmung einsetzen kann.“

Die wichtigsten Ergebnisse im Überblick:

• Weitverbreiteter Einsatz von KI innerhalb des KI- und Security-Betriebs: Die Mehrheit der Unternehmen (94 %) setzt KI im Rahmen ihres IT-Bertriebs in irgendeiner Form ein. Mehr als die Hälfte (60 %) nutzt im Speziellen Generative oder Agentic AI. Bei 40 % der Unternehmen kommen KI-Agenten zur Verbesserung des Sicherheitsbetriebs zum Einsatz.
  
  
• Schatten-KI bleibt eine Herausforderung: Über die Hälfte der befragten Unternehmen (56 %) sagt, dass sie mindestens einmal im Monat von Problemen mit Schatten-KI betroffen sind. Ein Drittel (32 %) erlebt solche Vorfälle sogar mehrmals monatlich. Dies unterstreicht die Herausforderungen, die mit unerlaubter KI-Nutzung einhergehen.
  
  
• KI-basierte Sicherheitsrisiken: Für Unternehmen gelten die folgenden KI-Risiken in Bezug auf Identitätssicherheit als besonders akut:
  
  
  • KI-generierte Phishing-E-Mails und Deep Fakes
    
    
  • Diebstahl von Anmeldedaten mithilfe von KI
    
    
  • Agentic-AI-Systeme mit unautorisiertem Zugang
    
    
  • Unerlaubter Einsatz von KI-Tools
    
    
  • Intransparente KI-Zugangsprozesse
    
    

Trotz des breiten Einsatzes von KI scheint in vielen Unternehmen eine große Lücke im Bereich der KI-Governance zu klaffen. Lediglich 57 % von ihnen berichten von akzeptablen Nutzungsrichtlinien für KI-Tools; nur 55 % nutzen Zugangskontrollen für KI-Agenten. Dieser mangelhafte Überblick macht Unternehmen anfällig für Risiken, die sowohl von der unerlaubten Nutzung von KI-Tools als auch von unsachgemäß gemanagten KI-Systemen ausgehen.

Die gute Nachricht: Fast die Hälfte der Unternehmen (47 %) ist zuversichtlich, dass ihre geplanten Sicherheitsinitiativen den Einsatz von KI innerhalb der nächsten zwei Jahre noch sicherer machen werden. Da KI IT- und Sicherheitsprozesse zunehmend verändert, müssen Unternehmen der robusten Identity Governance sowie anpassungsfähigen Sicherheitskontrollen höchste Priorität einräumen, damit sie neuen Risiken wirksam begegnen können.

Methodik
Die Studie wurde von Delinea in Auftrag gegeben und vom 08. – 10. Juli 2025 von Censuswide durchgeführt. An der Online-Umfrage haben insgesamt 1.758 IT-Entscheidungsträger aus Deutschland (251), Großbritannien, den Vereinigten Staaten, Australien, Singapur und den Vereinigten Arabischen Emiraten teilgenommen.