Laut einen neuen Forschungsbericht von SailPoint setzen 82 % der Unternehmen bereits KI-Agenten ein, aber nur 44 % verfügen über Richtlinien zu deren Schutz. Ein bemerkenswertes Paradoxon: 96 % der Technologieexperten halten KI-Agenten für ein wachsendes Risiko – gleichzeitig planen 98 % der Unternehmen, deren Einsatz innerhalb des nächsten Jahres auszuweiten.

Im weitesten Sinne umfassen die Begriffe „agentenbasierte KI“ oder „KI-Agent“ autonome Systeme, die wahrnehmen, Entscheidungen treffen und Maßnahmen ergreifen, um bestimmte Ziele in einer definierten Umgebung zu erreichen. Diese Agenten benötigen oft mehrer Maschinenidentitäten, um auf benötigte Daten, Anwendungen und Dienste zugreifen zu können.

Sie bringen außerdem zusätzliche Komplexität mit sich, beispielsweise in Form von Selbstmodifikation und der Fähigkeit, Unteragenten zu erzeugen. Bemerkenswert ist, dass 72 % der Befragten KI-Agenten als größeres Risiko einstufen als Maschinenidentitäten. Zu den Faktoren, die dazu beitragen, dass KI-Agenten ein Sicherheitsrisiko darstellen, gehören:

  • die Fähigkeit von KI-Agenten, auf privilegierte Daten zuzugreifen (60 %)

  • ihr Potenzial, unbeabsichtigte Aktionen durchzuführen (58 %)

  • Weitergabe privilegierter Daten (57 %)

  • Treffen von Entscheidungen auf der Grundlage ungenauer oder ungeprüfter Daten (55 %)

  • Zugriff auf und Weitergabe von unangemessenen Informationen (54 %)

KI-Agenten haben heute bereits Zugriff eine Vielzahl hochsensibler Daten, darunter Kundeninformationen, Finanzdaten, geistiges Eigentum, juristische Dokumente, und Transaktionen in der Lieferkette. Dennoch geben die Befragten an, große Bedenken hinsichtlich der Kontrolle der Daten zu haben, auf die KI-Agenten zugreifen und die sie weitergeben können.

92 % sind der Meinung, dass die Kontrolle von KI-Agenten entscheidend für die Sicherheit des Unternehmens ist. Alarmierend: 23 % der Befragten berichteten, dass ihre KI-Agenten dazu gebracht wurden, Zugangsdaten preiszugeben. Zudem gaben 80 % an, dass ihre KI-Agenten unbeabsichtigte Aktionen ausgeführt haben, darunter:

  • Zugriff auf nicht autorisierte Systeme oder Ressourcen (39 %)

  • Zugriff auf oder Weitergabe von sensiblen bzw. ungeeigneten Daten (31 % bzw. 33 %)

  • Herunterladen sensibler Inhalte (32 %)

KI-Agenten sind nicht nur tief in verschiedene Systeme eingebettet, sondern sind ein eigener Identitätstyp. Da fast alle Unternehmen (98 %) planen, ihre Nutzung von agentenbasierter KI im kommenden Jahr auszuweiten, sind spezielle Lösungen für die Identitätssicherheit unerlässlich. Viele Unternehmen stehen noch am Anfang dieses Prozesses. Wachsende Bedenken hinsichtlich der Datenkontrolle verdeutlichen die Notwendigkeit umfassenderer Strategien zur Identitätssicherheit.

Diese müssen nicht nur menschliche, sondern auch KI- und Maschinenidentitäten verwalten. Solche Lösungen müssen in der Lage sein, alle KI-Agenten in der Umgebung zu erkennen, eine einheitliche Sichtbarkeit zu bieten, Zero Standing Privilege durchzusetzen und die Auditierbarkeit zu gewährleisten, damit Unternehmen die Sicherheit erhöhen und die gesetzlichen Anforderungen erfüllen können.

Methodik
Für die Umfrage wurden IT-Fachleute befragt, die in Unternehmen für KI, Sicherheit, Identitätsmanagement, Compliance und Betrieb verantwortlich sind. Insgesamt 353 qualifizierte Teilnehmer, die von Dimensional Research, einem unabhängigen Dienstleister, ausgewählt wurden, beantworteten die Umfrage. Alle Teilnehmer waren für die Unternehmenssicherheit verantwortlich. Die Teilnehmer stammten aus fünf Kontinenten, sodass eine globale Perspektive gewährleistet war.

Weitere Beiträge....