KI-Absicherung wird zur Belastungsprobe
Bedrohungsakteure, die LLM-Schwachstellen ausnutzen, machen keine Pause, während Unternehmen noch an Shadow AI Spreadsheets arbeiten
Das BSI bezeichnete indirekte Prompt Injection bereits 2023 als "intrinsische Schwäche” ohne zuverlässige Abhilfemaßnahmen
Von Rob T. Lee, Chief AI Officer & Chief of Research beim SANS Institute
Der diesjährige Bericht des BSI zur Lage der Cybersicherheit 2025 dokumentiert, was bereits geschieht: Prompt Injection, Jailbreaks, Modellmanipulation. Die Anzahl der täglichen Schwachstellen ist zwischen Juli 2024 und Juni 2025 um 24 Prozent gestiegen. Das BSI bezeichnete indirekte Prompt Injection bereits 2023 als "intrinsische Schwäche” ohne zuverlässige Abhilfemaßnahmen. Zwei Jahre später gibt es immer noch keine Lösung.
Angreifer zielen zuerst auf die schwächsten Systeme ab und berechnen den Schaden später. Ransomware-Gruppen bleiben die größte Bedrohung, obwohl die Finanzkriminalität im Internet um neun Prozent zurückgegangen ist. Kriminelle Organisationen benötigen keine ausgeklügelten Exploits, wenn überall grundlegende Sicherheitslücken bestehen.
Hier kommt der absurde Teil: In zahlreichen CISO-Panels dominierte dieses Jahr Shadow AI Governance die Diskussionen. Im Fokus stehen also nicht die Bedrohungsakteure, die Prompt-Injection-Schwachstellen ausnutzen, die vom BSI vor zwei Jahren dokumentiert wurden. Und es geht auch nicht um die Ransomware-Gruppen, die im großen Stil operieren. Es geht vielmehr um Shadow AI Inventory Management.
Die Sorge ist berechtigt. Die meisten Unternehmen haben keinerlei Einblick darin, welche Mitarbeiter welche KI-Tools mit welchen Daten verwenden. Eine MIT-Studie ergab, dass nur 40 Prozent der Unternehmen offizielle Abonnements erwerben, während bereits über 90 Prozent der Mitarbeiter eigene Accounts bei KI-Tools für ihre Arbeit nutzen. Es ist schwierig, Risiken zu verfolgen, wenn die Angriffsfläche unsichtbar ist.
Aber Bedrohungsakteure, die LLM-Schwachstellen ausnutzen, machen keine Pause, während Unternehmen noch an Shadow AI Spreadsheets arbeiten. BSI-Präsidentin Claudia Plattner brachte es auf den Punkt: Kriminelle greifen an, wo immer es möglich ist, und bewerten den Schaden danach. Sie warten nicht darauf, dass Unternehmen ihre Governance-Rahmenbedingungen fertigstellen.
Beide Probleme sind real. Wenn Sicherheitsverantwortliche dem internen KI-Chaos Vorrang vor aktiver Ausnutzung geben, bedeutet das lediglich, dass sie blind für Bedrohungen aus gleich zwei Richtungen statt nur aus einer sind. (SANS Institute: ra)
eingetragen: 25.11.25
Sans Institut: Kontakt und Steckbrief
Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.