Ergebnisse des „AI and Human Risk Landscape" Reports von Proofpoint

Die Kluft zwischen dem schnell wachsenden Einsatz von KI und der Fähigkeit von Unternehmen, die entstehenden Risiken zu kontrollieren, nimmt rasant zu. Das ist ein Ergebnis des „AI and Human Risk Landscape" Reports 2026 von Proofpoint. Darüber hinaus stellt die Studie fest, dass deutsche Unternehmen in KI-Tools und -Kontrollen investieren, deren Wirksamkeit aber nicht bestätigen können. 

Für die Studie wurden mehr als 1.400 Sicherheitsexpertinnen und -experten aus 12 Ländern befragt. Sie untersucht, wie die rasche KI-Einführung die Zusammenarbeit in Unternehmen verändert und strukturelle Schwächen in Sicherheitskontrollen und der Reaktion auf Sicherheitsvorfälle offenlegt.

KI ist inzwischen in den meisten Geschäftsbereichen im Einsatz – von der Kundenbetreuung über interne Kommunikation und E-Mail-Workflows bis hin zur Zusammenarbeit mit Drittanbietern. 82 % der deutschen Unternehmen setzen bereits KI-Assistenten ein und 77 % testen oder implementieren autonome Agenten.

Obwohl deutsche Unternehmen in KI-Tools und -Kontrollen investieren, können viele deren Wirksamkeit nicht bestätigen: 63 % der Befragten in Deutschland sind nicht vollständig überzeugt, dass ihre KI-Sicherheitskontrollen eine kompromittierte KI erkennen können. Trotz vorhandener Kontrollen meldeten 55 % der deutschen Unternehmen bereits einen bestätigten oder vermuteten KI-bezogenen Sicherheitsvorfall.

Fatalerweise sehen sich die meisten deutschen Unternehmen darüber hinaus nicht ausreichend gerüstet, um KI-bezogene Vorfälle zu untersuchen, die sich über mehrere Systeme oder Kanäle erstrecken – nur 32 % der Befragten in Deutschland fühlen sich darauf vollständig vorbereitet.

„Die diesjährigen Ergebnisse verdeutlichen eine wachsende Kluft zwischen KI-Einführung und Sicherheitsniveau“, kommentiert Ryan Kalember, Chief Strategy Officer bei Proofpoint. „Unternehmen setzen KI-Assistenten und autonome Agenten für Arbeitsabläufe ein, doch viele können weder die Wirksamkeit ihrer Kontrollen bestätigen noch Vorfälle vollständig untersuchen, die sich über Collaboration-Kanäle erstrecken. “

Einige der wichtigsten Erkenntnisse über deutsche Organisationen aus dem diesjährigen „AI and Human Risk Landscape“ Report:

• KI-Einführung eilt der Sicherheit weit voraus
  Deutsche Unternehmen haben KI schneller in den Produktivbetrieb überführt, als Governance-Frameworks mitwachsen konnten. 82 % der Unternehmen in Deutschland setzen KI-Assistenten bereits ein und 77 % testen oder implementieren autonome Agenten.
  
  Allerdings sehen 56 % der deutschen Unternehmen ihre Sicherheitsmaßnahmen in einem Aufholwettlauf begriffen oder betrachten sie als inkonsistent oder rein reaktiv. 50 % der Befragten in Deutschland berichten davon, bereits einen vermuteten oder bestätigten KI-bezogenen Vorfall verzeichnet zu haben – ein deutliches Zeichen dafür, dass das Risiko in produktiven Umgebungen längst real ist.
  
  
• Collaboration-Kanäle sind die zentrale KI-Angriffsfläche
  KI vergrößert die Angriffsfläche und ermöglicht es Bedrohungen, sich mit Maschinengeschwindigkeit auszubreiten und vernetzte Arbeitsabläufe zu beeinträchtigen. In Deutschland bleibt E-Mail mit 64 % der häufigste Bedrohungsvektor.
  
  Zudem fungieren SaaS- und Cloud-Anwendungen von Drittanbietern (50 %), Collaboration-Tools wie Teams oder Slack (50 %) sowie KI-Assistenten oder -Agenten (45 %) als Einfallstore für Cyberangriffe. Unter den deutschen Unternehmen, die einen KI-bezogenen Vorfall erlebt haben, lagen die Prozentzahlen je Kanal noch höher. So kamen KI-Systeme auf 70 % und SaaS- und Cloud-Anwendungen Dritter auf 68 %.
  
  
• Prinzip Hoffnung: Das Vertrauen übersteigt die tatsächliche Wirksamkeit der Kontrollen
  Viele deutsche Unternehmen haben zwar Sicherheitskontrollen implementiert, doch fehlt ihnen die Gewissheit über deren Effektivität. 75 % der Unternehmen in Deutschland verfügen über KI-Sicherheitsmaßnahmen, aber 63 % sind nicht vollständig überzeugt, dass diese Kontrollen eine kompromittierte KI erkennen können.
  
  Trotz bestehender Schutzmaßnahmen meldeten 55 % der deutschen Unternehmen einen KI-bezogenen Vorfall. Lücken bestehen insbesondere bei Schulungen (45 %), der teamübergreifenden Abstimmung von Governance-Prozessen (42 %) und der Sichtbarkeit von KI- oder Agenten-Aktivitäten (36 %).
  
  
• Die Aufklärungsfähigkeit hinkt der Realität hinterher
  Wenn KI-bezogene Vorfälle auftreten, tun sich viele deutsche Unternehmen schwer, diese aufzuklären. Nur 32 % der Befragten in Deutschland fühlen sich vollständig auf die Untersuchung eines KI- oder agentenbezogenen Vorfalls vorbereitet, und 38 % berichten von Schwierigkeiten bei der kanalübergreifenden Korrelation von Bedrohungen.
  
  Wenn sich KI-Aktivitäten über E-Mail, Collaboration-Plattformen und Cloud-Systeme erstrechen, lassen sich Vorfälle nur aufklären, wenn alle vernetzten Umgebungen durchgängig einsehbar sind. Davon sind viele Unternehmen in Deutschland noch weit entfernt.
  
  
• Tool-Wildwuchs ist ein strukturelles Hindernis
  Die Fragmentierung der Sicherheitslandschaft verschärft die Herausforderung, schränkt die Übersicht ein und verlangsamt die Reaktionsfähigkeit. Das ist gerade dann problematisch, wenn sich Vorfälle mit Maschinengeschwindigkeit über Systeme hinweg ausbreiten.
  
  84 % der deutschen Unternehmen empfinden die Verwaltung mehrerer Sicherheits-Tools als mindestens mäßig herausfordernd und 27 % beschreiben sie als sehr oder extrem schwierig. Als Hauptprobleme nennen die Befragten in Deutschland die schwierige kanalübergreifende Korrelation von Bedrohungen (38 %), den Kostendruck im operativen Betrieb (36 %) sowie den hohen Anteil manueller Arbeit (33 %).
  
  
• Sicherheitsarchitektur wird mit zunehmender KI-Skalierung zur strategischen Priorität
  50 % der deutschen Unternehmen arbeiten aktiv an der Konsolidierung von Anbietern und Tools und 42 % sind überzeugt, dass eine einheitliche Plattform wirkungsvoller ist als Einzellösungen. In den kommenden 12 Monaten planen 55 % der Unternehmen in Deutschland, ihre KI-Schutzmaßnahmen auszubauen, 55 % wollen die Absicherung ihrer Collaboration-Kanäle erweitern und 36 % erwarten, auf einen einheitlichen Plattform-Ansatz umzusteigen.
  
  

„KI birgt zwar neue Risiken, etwa Prompt Engineering – doch der weitaus größere Effekt ist die Verstärkung altbekannter Probleme“, so Kalember weiter. „Nicht vertrauenswürdigen Code auszuführen, sensible Daten falsch zu handhaben und die Kontrolle über Zugangsdaten zu verlieren – das sind dieselben Herausforderungen, die Menschen seit Jahrzehnten verursachen. KI führt sie nun mit Maschinengeschwindigkeit und in großem Maßstab aus.

Wenn Unternehmen der KI die Erlaubnis erteilen, in ihrem Namen zu handeln – gegenüber Kunden, Partnern oder internen Systemen –, wächst der Wirkungsradius jedes einzelnen Fehlers dramatisch. Die Antwort liegt nicht darin, KI als neuartige Bedrohungskategorie zu behandeln, sondern darin, bewährte, strenge Kontrollen konsequent auf alles anzuwenden, was KI berührt, ausführt und als was sie sich authentifizieren darf. Unternehmen, die dieses Fundament frühzeitig legen, können ihren KI-Einsatz ruhigen Gewissens ausbreiten. Alle anderen automatisieren lediglich ihre eigene Angriffsfläche.“

Methode
Der Report „AI and Human Risk Landscape“ bietet einen Überblick, wie Unternehmen KI einführen und die damit verbundenen Sicherheitsrisiken managen. Die Studie untersucht den Reifegrad der KI-Implementierung, die Wirksamkeit von Kontrollen, Erfahrungen mit Sicherheitsvorfällen, die Exposition über Collaboration-Kanäle hinweg sowie die Aufklärungsfähigkeit – vor dem Hintergrund, dass KI-Assistenten und autonome Agenten zunehmend fester Bestandteil von Unternehmensabläufen werden.

Im Januar 2026 wurden mehr als 1.400 hauptberufliche Sicherheitsexpertinnen und -experten aus Unternehmen unterschiedlicher Größen und Branchen befragt. Die Befragten stammten aus 20 Branchen und 12 Ländern: Australien, Brasilien, Deutschland, Frankreich, Großbritannien, Indien, Italien, Japan, Singapur, Spanien, USA und die VAE.