AXA XL und die Unternehmensberatung S-RM haben einen Bericht zu den Risiken beim Einsatz Künstlicher Intelligenz in Unternehmen veröffentlicht. Mit der zunehmenden Einbindung von KI in Geschäftsprozesse steigen demnach unter anderem Cyber-, Haftpflicht- und Betriebsunterbrechungsrisiken. Der Bericht nennt fünf Handlungsfelder, mit denen Unternehmen diese Risiken begrenzen sollen.
Redakteur/in: Andreas Richter - Veröffentlicht am 23.09.2026
Künstliche Intelligenz wird zunehmend in Geschäftsprozesse eingebunden und erhält dabei teilweise Zugriff auf sensible Daten, Anwendungen und Entscheidungsprozesse. Nach Einschätzung von AXA XL und S-RM entwickeln sich die dafür notwendigen Governance- und Sicherheitsstrukturen in vielen Unternehmen jedoch nicht im gleichen Tempo. Der gemeinsame Bericht „Building Resilient AI: Managing AI Risk through Governance, Security and Resilience“ untersucht die damit verbundenen Risiken und mögliche Maßnahmen.
Die Verbreitung von KI ist bereits hoch: Laut dem im Bericht zitierten „State of AI Survey 2026“ von McKinsey & Company nutzen 88% der Unternehmen KI in mindestens einer Geschäftsfunktion. AXA XL und S-RM sehen dadurch zusätzliche mögliche Angriffspunkte für Cyberbedrohungen sowie operative, regulatorische und drittparteibezogene Risiken.
Fünf Handlungsfelder für Unternehmen
Im Mittelpunkt des Berichts stehen fünf Bereiche. Unternehmen sollten zunächst klare Verantwortlichkeiten für den KI-Einsatz festlegen. Das betrifft sowohl offiziell eingeführte Anwendungen und in Software integrierte KI-Funktionen als auch sogenannte Shadow AI, also nicht autorisierte KI-Anwendungen, die von Mitarbeitern genutzt werden.
Ein weiterer Schwerpunkt liegt auf dem Schutz sensibler Daten sowie dem Identitäts- und Zugriffsmanagement. Darüber hinaus sollen KI-Risiken über den gesamten Lebenszyklus betrachtet werden – von der Datenerfassung und Modellentwicklung über den laufenden Einsatz bis zur Überwachung und Reaktion auf Vorfälle. Auch externe KI-Anbieter und andere kritische Dienstleister sollen in Governance und Risikomanagement einbezogen werden.
Als fünften Bereich nennt der Bericht die Vorbereitung auf mögliche Schadenfälle. Dazu zählen Szenarien aus den Bereichen Cyber, Betrug, Haftpflicht und Betriebsunterbrechung sowie mögliche Auswirkungen auf weitere Versicherungssparten.
Jonathan Salter, Head of Risk Consulting bei AXA XL:
"KI entwickelt sich von einer experimentellen Technologie zu einem festen Bestandteil der Systeme und Prozesse, auf die Unternehmen täglich angewiesen sind. Doch die Governance hält mit dieser Entwicklung nicht immer Schritt. Den größten Mehrwert aus KI werden diejenigen Unternehmen erzielen, die Transparenz über deren Einsatz schaffen, die geschäftlichen Auswirkungen möglicher Ausfälle verstehen und Sicherheit sowie Resilienz von Anfang an berücksichtigen."
Zu den konkreten Risiken, mit denen sich der Bericht beschäftigt, gehören Datenabfluss, Manipulation von KI-Modellen und Prompt Injection, also gezielte Eingaben zur Beeinflussung oder Umgehung von Sicherheitsmechanismen. Weitere Themen sind fehlerhafte oder unzuverlässige Ergebnisse, Shadow AI sowie zu weitreichend autonom agierende KI-Agenten.
Für einen sicheren KI-Einsatz nennen AXA XL und S-RM fünf weitere Schwerpunkte unter dem Ansatz „Secure AI by Design“: Daten-Governance, die Sicherheit von Modellen und Anwendungen, Identitäts- und Zugriffskontrollen, die Resilienz des gesamten KI-Ökosystems sowie eine kontinuierliche Überwachung und Anpassung.
Dass Unternehmen ihre Sicherheitsmaßnahmen bereits verstärken, zeigen Daten des Weltwirtschaftsforums: Demnach prüfen mittlerweile 64% die Sicherheit von KI-Tools vor deren Einsatz, nach 37% im Vorjahr. AXA XL und S-RM halten eine einmalige Prüfung vor der Einführung jedoch nicht für ausreichend. Mit zunehmendem Zugriff von KI auf Daten, Anwendungen und Entscheidungsprozesse müsse die Überwachung während des gesamten Betriebs fortgesetzt werden.
zurück zur Übersicht
Beitrag speichern
sharing is caring
Das könnte Sie auch interessieren
