Ratgeber
Dateien vor KI-Upload auf Prompt-Injection-Muster prüfen
Behandle fremde Dokumente als Daten, nicht als vertrauenswürdige Anweisungen für eine KI. ScanBeforeOpen sucht bekannte Textmuster und ausgewählte unsichtbare Zeichen. Es bewertet keine vollständige Bedeutung und garantiert keinen Schutz vor Prompt Injection.
Verantwortlicher Betreiber: Tom Silas Helmke, Betreiber von ScanBeforeOpen. Inhaltlich überarbeitet: .
Dokumentinhalt ist keine Systemanweisung
Eine Zeile wie ignore previous instructions kann ein zitierter Schulungsinhalt oder ein Manipulationsversuch sein. Die Musterprüfung kann beides markieren. Umgekehrt können umformulierte, mehrsprachige oder visuelle Angriffe unentdeckt bleiben.
Die App ruft kein Sprachmodell auf. Sie prüft lokal verfügbare Text- und Dateimuster. Rollen, Toolrechte und die Trennung von Dokumentdaten und ausführbaren Anweisungen müssen im verwendeten KI-System selbst abgesichert werden.
Ablauf in Worten
- Ein Dokument enthält mehr Text, als man sieht: Kommentare, Metadaten, ausgeblendete Zeichen oder winzig und weiß gesetzte Schrift.
- Beim Auslesen für die KI wird dieser Text oft mit extrahiert, weil Programme nicht nach Sichtbarkeit unterscheiden.
- Der extrahierte Text wird Teil der Eingabe. Für das Modell sind Dokumentinhalt und Nutzerfrage dann nicht streng getrennt.
- Steht darin eine Anweisung, kann ein Modell ihr folgen. Das nennt man Prompt Injection. Fremde Dokumente sind Daten und keine Anweisungen.
- ScanBeforeOpen sucht bekannte Formulierungen und unsichtbare Zeichen und kann sie markieren, entfernen oder sichtbar machen. Es versteht keine Bedeutung und garantiert keinen Schutz.
Welche Inhalte der Scanner tatsächlich liest
Text- und Rohdatenprüfungen betrachten häufig höchstens die ersten 2 MB. Exportierte Textauszüge sind auf 200.000 Zeichen begrenzt. Office kann Kommentare oder versteckte Inhalte im Auszug liefern; PDF bietet keine vollständige Textextraktion aus allen Strukturen.
Ein Auszug ist keine vollständige bereinigte Originaldatei. Bildtext, komprimierte PDF-Inhalte, Anhänge oder nicht unterstützte Codierungen können fehlen. Prüfabdeckung und Formatgrenzen bestimmen die Aussage.
Markieren, entfernen oder Zeichen sichtbar machen
Der KI-Textauszug bietet drei Modi: bekannte verdächtige Zeilen markieren, entfernen oder ausgewählte unsichtbare Zeichen sichtbar machen. Die gewählte Änderung kann legitimen Inhalt beeinflussen.
Der Privacy-Text-Rebuild normalisiert zusätzlich Unicode und entfernt ausgewählte Marker. Weder Funktion ist eine automatische Prüfung auf personenbezogene Daten, Geschäftsgeheimnisse oder jede versteckte Anweisung.
Vor dem tatsächlichen Upload
Lies den exportierten TXT-Auszug und vergleiche wichtige Abschnitte mit dem freigegebenen Ausgangsmaterial. Entferne private Angaben selbst und hole bei sensiblen Inhalten die nötige organisatorische Freigabe ein.
Prüfe außerdem die Bedingungen des KI-Dienstes. Die lokale Verarbeitung durch ScanBeforeOpen überträgt nichts dorthin; ein späterer eigener Upload ist ein separater Vorgang.
Nachvollziehbares synthetisches Beispiel
Zwischen A und B steht U+200B. Die zitierte Testphrase ignore previous instructions erzeugt zusätzlich text.prompt. Der Scanner erkennt Muster, nicht die Absicht des Verfassers.
Die Befunde stammen aus einem tatsächlichen lokalen Scan dieser Testdatei. Lade sie herunter und wähle sie im Scanner aus. Keine echten personenbezogenen Daten oder Schadprogramme.
Testdatei herunterladen: unicode-demo.txtPrüfabdeckung im Beispiel: complete.
Praktische Checkliste
- Fremden Inhalt als Daten behandeln
- Prüfabdeckung und Umfang des Textauszugs lesen
- Passenden Markierungs- oder Entfernungsmodus bewusst wählen
- Export auf verlorenen Inhalt und vertrauliche Angaben kontrollieren
- KI-Systemrechte und Uploadfreigabe separat prüfen
Klare Grenzen
Heuristische Textmuster sind keine vollständige Prompt-Injection-Abwehr, Datenfreigabe oder Anonymisierung. Der Dateikontext und die Rechte des KI-Systems bleiben entscheidend.
FAQ
Ist der Prompt Injection Checker vollständig?
Nein. Die App sucht bekannte Muster ohne semantische Vollprüfung oder Modellaufruf. Sowohl Fehlalarme als auch übersehene Anweisungen sind möglich.
Macht der TXT-Export eine Datei sicher für KI?
Nein. Er ist ein begrenzter, veränderter Auszug. Vertrauliche Angaben und unbekannte Manipulationsmuster können bleiben.
Werden Dokumente an ein KI-Modell geschickt?
Nein. Die Prüfung dieser App bleibt lokal. Ein späterer Upload durch den Nutzer zu einem anderen Dienst ist davon getrennt.
Unsichere Datei bekommen?
Prüfe sie lokal, bevor du sie öffnest, entpackst, weiterleitest oder an eine KI weitergibst.
Zum Scanner