Ratgeber

Dateien vor KI-Upload auf Prompt-Injection-Muster prüfen

Behandle fremde Dokumente als Daten, nicht als vertrauenswürdige Anweisungen für eine KI. ScanBeforeOpen sucht bekannte Textmuster und ausgewählte unsichtbare Zeichen. Es bewertet keine vollständige Bedeutung und garantiert keinen Schutz vor Prompt Injection.

Verantwortlicher Betreiber: Tom Silas Helmke, Betreiber von ScanBeforeOpen. Inhaltlich überarbeitet: .

Zum Scanner

Dokumentinhalt ist keine Systemanweisung

Eine Zeile wie ignore previous instructions kann ein zitierter Schulungsinhalt oder ein Manipulationsversuch sein. Die Musterprüfung kann beides markieren. Umgekehrt können umformulierte, mehrsprachige oder visuelle Angriffe unentdeckt bleiben.

Die App ruft kein Sprachmodell auf. Sie prüft lokal verfügbare Text- und Dateimuster. Rollen, Toolrechte und die Trennung von Dokumentdaten und ausführbaren Anweisungen müssen im verwendeten KI-System selbst abgesichert werden.

Wie versteckter Text in eine KI-Anfrage gelangt
Datei (PDF, CSV, Text, SVG)sichtbarer und unsichtbarer TextTextextraktionliest auch ausgeblendeten TextKI-AnfrageText wird Teil der EingabeAnweisung im DokumentModell kann sie als Befehl deutenVorab prüfenMuster markieren, entfernen, zeigen

Ablauf in Worten

  1. Ein Dokument enthält mehr Text, als man sieht: Kommentare, Metadaten, ausgeblendete Zeichen oder winzig und weiß gesetzte Schrift.
  2. Beim Auslesen für die KI wird dieser Text oft mit extrahiert, weil Programme nicht nach Sichtbarkeit unterscheiden.
  3. Der extrahierte Text wird Teil der Eingabe. Für das Modell sind Dokumentinhalt und Nutzerfrage dann nicht streng getrennt.
  4. Steht darin eine Anweisung, kann ein Modell ihr folgen. Das nennt man Prompt Injection. Fremde Dokumente sind Daten und keine Anweisungen.
  5. ScanBeforeOpen sucht bekannte Formulierungen und unsichtbare Zeichen und kann sie markieren, entfernen oder sichtbar machen. Es versteht keine Bedeutung und garantiert keinen Schutz.

Welche Inhalte der Scanner tatsächlich liest

Text- und Rohdatenprüfungen betrachten häufig höchstens die ersten 2 MB. Exportierte Textauszüge sind auf 200.000 Zeichen begrenzt. Office kann Kommentare oder versteckte Inhalte im Auszug liefern; PDF bietet keine vollständige Textextraktion aus allen Strukturen.

Ein Auszug ist keine vollständige bereinigte Originaldatei. Bildtext, komprimierte PDF-Inhalte, Anhänge oder nicht unterstützte Codierungen können fehlen. Prüfabdeckung und Formatgrenzen bestimmen die Aussage.

Markieren, entfernen oder Zeichen sichtbar machen

Der KI-Textauszug bietet drei Modi: bekannte verdächtige Zeilen markieren, entfernen oder ausgewählte unsichtbare Zeichen sichtbar machen. Die gewählte Änderung kann legitimen Inhalt beeinflussen.

Der Privacy-Text-Rebuild normalisiert zusätzlich Unicode und entfernt ausgewählte Marker. Weder Funktion ist eine automatische Prüfung auf personenbezogene Daten, Geschäftsgeheimnisse oder jede versteckte Anweisung.

Vor dem tatsächlichen Upload

Lies den exportierten TXT-Auszug und vergleiche wichtige Abschnitte mit dem freigegebenen Ausgangsmaterial. Entferne private Angaben selbst und hole bei sensiblen Inhalten die nötige organisatorische Freigabe ein.

Prüfe außerdem die Bedingungen des KI-Dienstes. Die lokale Verarbeitung durch ScanBeforeOpen überträgt nichts dorthin; ein späterer eigener Upload ist ein separater Vorgang.

Nachvollziehbares synthetisches Beispiel

Zwischen A und B steht U+200B. Die zitierte Testphrase ignore previous instructions erzeugt zusätzlich text.prompt. Der Scanner erkennt Muster, nicht die Absicht des Verfassers.

Die Befunde stammen aus einem tatsächlichen lokalen Scan dieser Testdatei. Lade sie herunter und wähle sie im Scanner aus. Keine echten personenbezogenen Daten oder Schadprogramme.

Testdatei herunterladen: unicode-demo.txt

Prüfabdeckung im Beispiel: complete.

Praktische Checkliste

  • Fremden Inhalt als Daten behandeln
  • Prüfabdeckung und Umfang des Textauszugs lesen
  • Passenden Markierungs- oder Entfernungsmodus bewusst wählen
  • Export auf verlorenen Inhalt und vertrauliche Angaben kontrollieren
  • KI-Systemrechte und Uploadfreigabe separat prüfen

Klare Grenzen

Heuristische Textmuster sind keine vollständige Prompt-Injection-Abwehr, Datenfreigabe oder Anonymisierung. Der Dateikontext und die Rechte des KI-Systems bleiben entscheidend.

FAQ

Ist der Prompt Injection Checker vollständig?

Nein. Die App sucht bekannte Muster ohne semantische Vollprüfung oder Modellaufruf. Sowohl Fehlalarme als auch übersehene Anweisungen sind möglich.

Macht der TXT-Export eine Datei sicher für KI?

Nein. Er ist ein begrenzter, veränderter Auszug. Vertrauliche Angaben und unbekannte Manipulationsmuster können bleiben.

Werden Dokumente an ein KI-Modell geschickt?

Nein. Die Prüfung dieser App bleibt lokal. Ein späterer Upload durch den Nutzer zu einem anderen Dienst ist davon getrennt.

Passend weiterlesen

Fachliche Quellen