Ihre KI läuft.
Aber wurde sie je geprüft?
Prompt-InjectionDatenabflussAgenten-RechteSchatten-KIProtokollierung
Die meisten Unternehmen haben KI eingeführt, ohne je zu testen, was passiert, wenn jemand sie gezielt manipuliert. Wir prüfen Ihre KI-Systeme wie ein Angreifer — und liefern einen Bericht, mit dem Sie arbeiten können.
KI ist die erste Software, die man mit Sprache angreift.
Eine Firewall prüft man. Ein Backup prüft man. Ein Sprachmodell, das Zugriff auf die Dokumentenablage hat, Mails schreiben darf und im Zweifel auch Dateien öffnet — das läuft in den meisten Häusern ungeprüft.
Dabei braucht ein Angreifer keinen Exploit. Es genügt ein präparierter Satz in einem PDF, das die KI später liest.
Wer KI einsetzt, hat seine Angriffsfläche verändert — meist ohne es zu dokumentieren.
Was wir prüfen
Prompt-Injection
Wir schmuggeln Anweisungen in Dokumente, Mails und Webseiten, die Ihr System später verarbeitet — und messen, ob es sie befolgt. Der häufigste und am meisten unterschätzte Angriff auf KI-Systeme.
Datenabfluss
Kann ein Nutzer über geschickte Fragen an Inhalte kommen, die er nicht sehen darf? Landen Auszüge aus Ihren Dokumenten in Protokollen, Zwischenspeichern oder bei Dritten?
Agenten-Rechte
Was darf Ihre KI tatsächlich tun — und was davon war so gewollt? Systeme, die selbstständig Mails senden oder Dateien schreiben, brauchen harte Grenzen und einen Freigabeschritt.
Rechte- und Rollenmodell
Sieht die KI dieselben Dokumente wie der anfragende Nutzer — oder mehr? Der häufigste Konstruktionsfehler bei Wissensdatenbanken.
Modell- und Lieferkette
Woher stammen Modell, Einbettungsdienst und Zusatzkomponenten? Welche davon rufen im Betrieb nach außen? Wer könnte etwas nachladen?
Schatten-KI
Welche KI-Werkzeuge nutzen Ihre Mitarbeiter über private Accounts, ohne dass es jemand weiß? Meist der größte reale Datenabfluss im Haus.
Was Sie am Ende bekommen
Kein Werkzeug-Protokoll, sondern ein Bericht, den auch die Geschäftsführung lesen kann:
- Jeder Befund mit nachvollziehbarem Nachweis — was wir eingegeben haben und was das System geantwortet hat
- Einstufung nach Schwere und Eintrittswahrscheinlichkeit
- Konkrete Maßnahme je Befund, nach Aufwand sortiert
- Was Sie sofort abschalten sollten und was warten kann
- Ein Nachtest nach Umsetzung ist im Umfang enthalten
Der Bericht ist so aufgebaut, dass Sie ihn Ihrem Datenschutzbeauftragten, Ihrem Versicherer oder im Rahmen einer Zertifizierung vorlegen können.
Wie das Audit abläuft
1 · Bestandsaufnahme
Welche KI-Systeme laufen, wer nutzt sie, worauf greifen sie zu. Meist der Moment, in dem die ersten Überraschungen auftauchen.
2 · Aktive Prüfung
Wir greifen die Systeme kontrolliert an — in Absprache, dokumentiert, ohne Ihren Betrieb zu stören.
3 · Bericht und Besprechung
Übergabe im Termin, nicht per Mail. Wir gehen die Befunde gemeinsam durch und priorisieren, was zuerst passiert.
Häufige Fragen
Was ist Prompt-Injection?
Ein Angriff, bei dem Anweisungen in Inhalte eingebettet werden, die ein KI-System später verarbeitet — etwa in ein PDF, eine E-Mail oder eine Webseite. Das Modell unterscheidet nicht zuverlässig zwischen Ihren Anweisungen und denen im Dokument und kann so dazu gebracht werden, Daten preiszugeben oder Aktionen auszuführen.
Wir nutzen nur ChatGPT im Browser. Brauchen wir trotzdem ein Audit?
Dann ist die wichtigste Frage nicht die Technik, sondern welche Daten dort täglich eingegeben werden. Genau das erfassen wir im Modul Schatten-KI. Erfahrungsgemäß ist das der größte reale Datenabfluss in Unternehmen, die glauben, KI noch gar nicht eingeführt zu haben.
Stört das Audit den laufenden Betrieb?
Nein. Alle aktiven Tests werden vorher abgestimmt, protokolliert und laufen gegen definierte Ziele. Wo nötig arbeiten wir auf einer Kopie.
Auditieren Sie auch Systeme, die ein anderer Dienstleister gebaut hat?
Ja, das ist der Regelfall. Wir prüfen unabhängig davon, wer das System aufgesetzt hat, und formulieren die Maßnahmen so, dass Ihr Dienstleister sie umsetzen kann.
Was kostet ein KI-Sicherheitsaudit?
Der Aufwand hängt an der Zahl der geprüften Systeme und daran, ob Agenten mit Schreibrechten im Einsatz sind. Wir nennen den Festpreis nach einem kurzen Vorgespräch, in dem wir den Umfang festlegen — vorher wäre jede Zahl geraten.
Umfang in zwanzig Minuten klären
Sagen Sie uns, welche KI-Systeme bei Ihnen laufen. Wir sagen Ihnen, was sinnvoll zu prüfen ist, was der Aufwand ist — und wenn nichts zu prüfen ist, auch das.
Telefon +49 6861 2089
post@kimsiebert.com
