Menschlicher Faktor wird bei KI-Sicherheit unterschätzt

Die explosionsartige Zunahme von KI-Anwendungen hat eine neue und komplexe Angriffsfläche geschaffen, die Unternehmen schnellstmöglich sichern müssen. Zu diesem Schluss kommt eine Studie des Softwareanbieters KnowBe4, an der 4.200 Beschäftigte aus 14 Ländern teilgenommen haben, darunter 700 Cybersecurity-Verantwortliche. Auffällig ist der Trend zu Multi-Channel-Angriffen über Messaging-Anwendungen und Voice-Phishing (Vishing), verstärkt durch den wachsenden Einsatz von KI-Tools durch Cyberkriminelle. Besonders deutlich zeigt sich das Risiko bei KI-Anwendungen selbst: Hier verzeichneten 43 Prozent der Sicherheitsverantwortlichen einen Anstieg der Vorfälle in den letzten zwölf Monaten – der zweithöchste Zuwachs nach E-Mail-Angriffen (57 Prozent). Und wenngleich fast alle befragten Führungskräfte in den letzten zwölf Monaten Maßnahmen ergriffen haben, um diese neuen Risiken zu bewältigen, kommt ein Faktor noch zu kurz: der Mensch. Der hohe Anstieg an Vorfällen bei KI-Tools erkläre sich den Studienautorinnen und -autoren nämlich unter anderem dadurch, dass Mitarbeitende vertrauliche Unternehmensdokumente zur Analyse in KI-Anwendungen hochladen.

Anzeige

Berufsbegleitend und flexibel zum MBA

Wissenschaft trifft Praxis, Studium trifft Karriere. Das MBA-Fernstudium am Campus Remagen der Hochschule Koblenz bietet einen flexiblen Masterplan mit freier Schwerpunktwahl (z.B. Leadership) - auch ohne Erststudium.

Persönlichen Masterplan starten

Ein weiterer Risikofaktor ist die Lücke, die die Autorinnen und Autoren in der KI-Governance sehen: Mehr als die Hälfte der Mitarbeitenden empfindet den Zugriff auf KI als zu restriktiv oder langsam. Das schafft laut Studie ein fruchtbares Umfeld für „Schatten-KI“, die nicht offiziell genehmigte Nutzung von KI-Tools, die im schlimmsten Fall zu unentdecktem Missbrauch durch Cyberkriminelle führen kann. Unternehmen müssen sich nun schnellstmöglich weiterentwickeln, bevor sie ins Hintertreffen geraten, mahnen die Autorinnen und Autoren der Studie. Am wichtigsten dabei: Ein proaktives Personalmanagement, das menschliche Risiken durch personalisierte Kontrollmechanismen und Beratung bewältigt, sodass die Mitarbeitenden zu aktiven Mitwirkenden an der Sicherheit ihres Unternehmens werden.

Die vollständigen Ergebnisse stehen unter msmagazin.info/340KIGov zum Download zur Verfügung.