Schatten-KI-Risiken nehmen durch die hohe Akzeptanz von genAI-Plattformen und KI-Agenten weiter zu

Die neuen Daten wurden im Rahmen des aktuellen Netskope Threat Labs Reports veröffentlicht. Darin wird der anhaltende Wechsel der Mitarbeiter zu genAI-Plattformen untersucht – unabhängig davon, ob sie aus der Cloud oder On-Premise bereitgestellt werden. Derzeit besteht ein großes Interesse an der Entwicklung von KI-Apps und autonomen Agenten. Dies bringt viele neue Herausforderungen für die Cybersicherheit mit sich, denen sich Unternehmen stellen müssen.

Aufstieg der genAI-Plattformen 

genAI-Plattformen sind grundlegende Infrastruktur-Tools, mit denen Unternehmen benutzerdefinierte KI-Apps und KI-Agenten erstellen können. Aufgrund ihrer Einfachheit und Flexibilität stellen sie für die Nutzer die am schnellsten wachsende Kategorie der Schatten-KI dar. In den drei Monaten bis Mai 2025 stieg die Zahl der Nutzer dieser Plattformen um 50 %. genAI-Plattformen beschleunigen die direkte Verbindung von Unternehmensdatenspeichern mit KI-Anwendungen, wobei die Popularität der Nutzung neue Risiken für die Datensicherheit in Unternehmen schafft, die der Verhinderung von Datenverlusten (DLP) und der kontinuierlichen Überwachung und Sensibilisierung zusätzliche Bedeutung verleihen. Der mit der Nutzung von KI-Plattformen verbundene Netzwerkverkehr stieg im Vergleich zum vorangegangenen Drei-Monats-Zeitraum um 73 %. Im Mai setzten bereits 41 % der Unternehmen mindestens eine genAI-Plattform ein. Ungefähr 29 % der Unternehmen nutzen Microsoft Azure OpenAI, gefolgt von Amazon Bedrock (22 %) und Google Vertex AI (7,2 %). 

„Das rasante Wachstum von Schatten-KI zwingt Unternehmen dazu, herauszufinden, wer neue KI-Apps und KI-Agenten mit Hilfe von genAI-Plattformen entwickelt und wo diese entwickelt und eingesetzt werden“, erläutert Ray Canzanese, Director of Netskope Threat Labs. „Sicherheitsteams wollen die Innovationsbestrebungen der Endanwender nicht behindern, aber die Nutzung von KI wird nur zunehmen. Um diese Innovation zu schützen, müssen Unternehmen ihre KI-App-Kontrollen überarbeiten und ihre DLP-Richtlinien so weiterentwickeln, dass sie Elemente des Benutzer-Coachings in Echtzeit einbeziehen.“

Die vielen Facetten der On-Premise KI-Innovation

Von der lokalen Bereitstellung von genAI über On-Premise GPU-Quellen bis hin zur Entwicklung von On-Premise Tools, die mit SaaS-genAI-Anwendungen oder genAI-Plattformen interagieren, evaluieren Unternehmen viele Optionen, um mithilfe von KI schnell innovativ zu sein. Sie wenden sich zunehmend Large Language Model (LLM)-Schnittstellen zu. 

• Heute nutzen 34 % der Unternehmen diese Schnittstellen, wobei Ollama mit 33 % derzeit der klare Marktführer ist und andere wie LM Studio (0,9 %) und Ramalama (0,6 %) nur an der Oberfläche kratzen. 
• In der Zwischenzeit experimentieren die Endnutzer mit KI-Tools und besuchen KI-Marktplätze in rasantem Tempo. In der Mehrheit (67 %) der Unternehmen laden die Nutzer beispielsweise Ressourcen von Hugging Face herunter. 
• Das Versprechen von KI-Agenten treibt dieses Verhalten an, da die Daten zeigen, dass es jetzt eine kritische Masse von Nutzern in Unternehmen gibt, die KI-Agenten entwickeln und die KI-Funktionen von SaaS-Lösungen nutzen. GitHub Copilot wird jetzt in 39 % der Unternehmen eingesetzt, und 5,5 % der Nutzer setzen Agenten ein, die von beliebten KI-Agenten-Frameworks vor Ort generiert wurden. 
• Darüber hinaus rufen Agenten vor Ort mehr Daten von SaaS-Diensten ab und greifen dabei auf mehr API-Endpunkte als Browser zu. Zwei Drittel (66 %) der Unternehmen haben Benutzer, die API-Aufrufe an api.openai.com und 13 % an api.anthropic.com tätigen.

Fortsetzung und Weiterentwicklung der SaaS-KI-Nutzung

Netskope verfolgt jetzt mehr als 1.550 verschiedene genAI-SaaS-Anwendungen, im Vergleich zu nur 317 im Februar. Dies weist auf das rasante Tempo hin, mit dem neue Anwendungen veröffentlicht und im gesamten Unternehmen angenommen werden. Unternehmen nutzen jetzt etwa 15 genAI-Anwendungen, im Februar waren es noch 13. Darüber hinaus ist die Datenmenge, die jeden Monat in genAI-Apps hochgeladen wird, im Quartalsvergleich von 7,7 GB auf 8,2 GB gestiegen.

• Unternehmensanwender beginnen, sich um speziell entwickelte Tools wie Gemini und Copilot zu konsolidieren, da immer mehr Sicherheitsteams daran arbeiten, diese Anwendungen und Lösungen in ihrem Unternehmen sicher zu aktivieren, da diese Chatbots nun besser in ihre Produktivitäts-Suiten integriert sind. 
• Der Allzweck-Chatbot ChatGPT verzeichnete den ersten Rückgang in der Beliebtheit bei Unternehmen – seit Netskope 2023 mit der Verfolgung der beliebten genAI-App begann. 
• Von den Top 10 der beliebtesten genAI-Apps pro Unternehmen war ChatGPT die einzige, die seit Februar einen Rückgang verzeichnete, während andere beliebte Apps, darunter Anthropic Claude, Perplexity AI, Grammarly und Gamma, alle einen Anstieg der Akzeptanz in Unternehmen verzeichneten. 
• Darüber hinaus ist Grok aufgrund seiner zunehmenden Beliebtheit zum ersten Mal in die Top 10 der meistgenutzten Anwendungen aufgestiegen. Grok ist zwar weiterhin in den Top 10 der meistgesperrten Apps, aber die Blockierraten sind tendenziell rückläufig, da immer mehr Unternehmen granulare Kontrollen und Überwachungen evaluieren und einsetzen.

Sicherstellung von KI-Governance und Nutzungsmonitoring

CISOs und andere Sicherheitsverantwortliche sollten die notwendigen Schritte unternehmen, um eine sichere und verantwortungsvolle Übernahme inmitten der beschleunigten Nutzung verschiedener KI-Technologien zu gewährleisten. Netskope empfiehlt folgende Maßnahmen:

• Bewerten Sie die genAI-Landschaft: Ermitteln Sie, welche genAI-Tools im Unternehmen eingesetzt werden, und bestimmen Sie, wer diese Tools verwendet und wie sie genutzt werden.
• Verstärkung der genAI-App-Kontrollen: Legen Sie eine Richtlinie fest, die nur die Nutzung von im Unternehmen zugelassenen genAI-Anwendungen erlaubt, und setzen Sie sie durch. Implementieren Sie robuste Sperrmechanismen und setzen Sie ein Echtzeit-Benutzercoaching ein.
• Inventarisierung lokaler Kontrollen: Wenn ein Unternehmen genAI-Infrastrukturen lokal betreibt, sollten Sie relevante Sicherheits-Frameworks wie OWASP Top 10 for Large Language Model Applications prüfen sowie anwenden und sicherstellen, dass Daten, Benutzer und Netzwerke, die mit der lokalen genAI-Infrastruktur interagieren, angemessen geschützt sind.
• Kontinuierliches Monitoring und Sensibilisierung: Implementieren Sie ein kontinuierliches Monitoring der genAI-Nutzung innerhalb der Organisation, um neue Schatten-KI-Instanzen zu erkennen und über neue Entwicklungen in der KI-Ethik, regulatorische Änderungen und feindliche Angriffe auf dem Laufenden zu bleiben.
• Bewertung der aufkommenden Risiken von agentenbasierter Schatten-KI: Identifizieren Sie diejenigen, die bei der Einführung von agentenbasierter KI führend sind, und arbeiten Sie mit ihnen zusammen, um eine umsetzbare und realistische Richtlinie zur Begrenzung von Schatten-KI zu entwickeln.

Über Netskope

Netskope ist ein führendes Unternehmen im Bereich moderner Sicherheit und Netzwerke. Das Unternehmen erfüllt die Anforderungen von Sicherheits- und Netzwerkteams, indem

es optimierten Zugriff und kontextbasierte Sicherheit in Echtzeit bietet – für Menschen, Geräte und Daten, wo immer sie sich befinden. Tausende von Kunden, darunter mehr als 30 der Fortune-100-Unternehmen, vertrauen auf die Netskope One-Plattform, die patentierte Zero Trust Engine und das leistungsstarke NewEdge-Netzwerk, um Risiken zu reduzieren und volle Transparenz sowie Kontrolle über Cloud-, SaaS-, Web- und private Anwendungsaktivitäten zu erlangen – ohne Einbußen in Puncto Sicherheit und Leistung. Erfahren Sie mehr auf netskope.com, LinkedIn und Instagram.