Das Deutsche Forschungszentrum für Künstliche Intelligenz veröffentlicht mit Privacy Guardrail eine Browser-Erweiterung, die sensible Daten in KI-Prompts erkennt und vor dem Versand anonymisiert.

Die Nutzung von KI-Anwendungen wie ChatGPT, Claude oder Gemini gehört inzwischen in vielen Unternehmen zum Arbeitsalltag. Gleichzeitig bleibt eine Herausforderung bestehen: Mitarbeitende geben in Prompts häufig mehr Informationen preis, als ihnen bewusst ist. Namen, E-Mail-Adressen, interne Dokumente oder Kundendaten landen schnell in Anfragen an KI-Systeme – und damit potenziell auch auf externen Servern.

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat nun eine Browser-Erweiterung vorgestellt, die genau an dieser Stelle ansetzt. Das Open-Source-Projekt „Privacy Guardrail“ soll sensible Inhalte bereits vor dem Absenden eines Prompts erkennen und anonymisieren.

Die Erweiterung prüft eingegebene Texte direkt im Browser. Erkennt das System personenbezogene oder andere sensible Informationen, werden diese durch Platzhalter wie „[PERSON_1]“ oder „[EMAIL_1]“ ersetzt. Nutzer können die vorgeschlagenen Ersetzungen vor dem Versand kontrollieren, anpassen oder einzelne Treffer ignorieren.

Nach Erhalt der Antwort lassen sich die Platzhalter lokal wieder den ursprünglichen Informationen zuordnen. Dadurch bleibt der fachliche Zusammenhang erhalten, ohne dass die Originaldaten an den KI-Dienst übertragen werden.

Technisch verfolgt Privacy Guardrail einen sogenannten „Local-First-Ansatz“. Sämtliche Erkennungs- und Anonymisierungsschritte finden direkt im Browser statt. Die eingegebenen Daten werden für diesen Prozess nicht an externe Server übertragen.

Für die Erkennung nutzt die Erweiterung zwei Verfahren. Strukturierte Daten wie E-Mail-Adressen, IP-Adressen, Kreditkartennummern oder IBANs werden über feste Muster identifiziert. Ergänzend kommt eine lokale KI-Komponente zum Einsatz, die auch kontextabhängige Informationen wie Personen-, Orts- oder Organisationsnamen erkennen kann.

Je nach verfügbarer Hardware erfolgt die Verarbeitung über die Grafikkarte oder alternativ über die CPU. Auf weniger leistungsfähigen Geräten kann zudem ein Modus genutzt werden, der ausschließlich auf Mustererkennung setzt.

Das DFKI weist ausdrücklich darauf hin, dass die Erweiterung keine vollständige Anonymisierung garantieren kann. Wie bei allen automatisierten Erkennungsverfahren können sensible Informationen übersehen oder unkritische Inhalte fälschlicherweise als schützenswert eingestuft werden.

Privacy Guardrail versteht sich daher als zusätzliche Schutzschicht, nicht als Ersatz für organisatorische Vorgaben, Datenschutzprüfungen oder eine unternehmensweite KI-Governance.

Gerade dieser Hinweis ist für Unternehmen wichtig. Technische Hilfsmittel können das Risiko unbeabsichtigter Datenweitergaben reduzieren, ersetzen aber nicht die Verantwortung für einen datenschutzkonformen und sicheren Einsatz von KI-Anwendungen.

Die Entwicklung zeigt, dass Datenschutz und produktive KI-Nutzung kein Widerspruch sein müssen. Werkzeuge wie Privacy Guardrail können dazu beitragen, die Hürde für einen verantwortungsvollen Einsatz von KI im Arbeitsalltag zu senken.

Dennoch sollten Unternehmen solche Lösungen immer als Teil eines Gesamtkonzepts betrachten. Klare Nutzungsrichtlinien, Schulungen der Mitarbeitenden sowie die Bewertung datenschutzrechtlicher Risiken bleiben weiterhin entscheidende Voraussetzungen für den sicheren Umgang mit KI-Systemen.

Wer KI im Unternehmen einsetzt, sollte deshalb nicht nur auf die Leistungsfähigkeit der Systeme achten, sondern auch auf die Frage, welche Daten tatsächlich an diese Systeme übermittelt werden.