Patronus Protect: On-Device-Schutz für deine AI-Interaktionen
Warum es Patronus gibt
Large Language Models finden rasant ihren Weg in alltägliche Software. Sie schreiben unsere E-Mails, fassen Dokumente zusammen, helfen beim Programmieren, unterstützen den Kundenservice, analysieren Texte und automatisieren Abläufe. Je mehr Anwendungen AI still und leise in ihre Kernfunktionen einbauen, desto schwerer wird es nachzuvollziehen, welche Informationen an diese Systeme gehen und wie viele Daten das Gerät im normalen Betrieb verlassen. Was sich einmal wie eine einfache Interaktion zwischen Nutzer und Anwendung anfühlte, ist zu einer großen, undurchsichtigen Blackbox geworden.
Mit dieser Ausbreitung wächst die Fläche für Fehler und Angriffe. Prompt Injections zum Beispiel sind deutlich subtiler geworden und mit bloßem Auge kaum noch zu erkennen. Versteckt in Übersetzungen, Formatierungen, kodiertem Text, System-Prompts oder mehrstufigen Konversationen können sie das Verhalten eines Modells manipulieren, interne Informationen abfließen lassen oder schädliche Aktionen auslösen. Organisationen können sich weder darauf verlassen, dass Nutzer solche Angriffe bemerken, noch darauf, dass ein Cloud-Dienst das schon regeln wird. Echter Schutz muss greifen, bevor Daten das Gerät verlassen.
Gleichzeitig steigt das Risiko, sensible Informationen ungewollt preiszugeben. LLMs können nahezu alles verarbeiten: Dokumente, E-Mails, Screenshots, interne Notizen, Kundendaten oder Quellcode. Aber sollte all das an ein externes AI-Modell gehen? In den meisten Fällen lautet die Antwort nein. Trotzdem übertragen die meisten Systeme Daten sofort an Cloud-AI-Dienste, ohne lokale Prüfung, ohne Filter, ohne Durchsetzung von Regeln. Daraus entsteht eine gefährliche Lücke: Einmal gesendete Daten lassen sich nicht zurückholen, nicht auditieren und kaum kontrollieren.
Patronus Protect ist entstanden, um genau diese beiden Probleme anzugehen. Unser Ziel ist eine On-Device-AI-Firewall, die AI-Interaktionen dort analysiert, filtert und absichert, wo sie entstehen: auf dem Gerät der Nutzerin oder des Nutzers. Wir wollen prompt-basierte Angriffe erkennen, bevor sie das Modell erreichen, die Manipulation des internen Kontexts verhindern und schädliche Eingaben blockieren oder bereinigen. Gleichzeitig sorgen wir dafür, dass sensible Daten lokal erkannt und geschützt werden, damit private oder regulierte Informationen nicht unbeabsichtigt übertragen werden.
Wir sind ein junges, schnelles Team und bauen aktiv an unserem MVP: moderne On-Device-Inferenz, systemweite Sichtbarkeit, Prompt-Injection-Erkennung, PII-Schutz und praxistaugliche Schutzmechanismen für echte Nutzer. In den kommenden Wochen und Monaten teilen wir Updates, frühe Demos und Einblicke in unsere Forschung.
Die Ära der On-Device-AI-Security fängt gerade erst an, und Patronus Protect wird ein Teil davon sein.