Lösung / AI-Agent-Security
Halte KI-Agenten in klaren Grenzen.
KI-Agenten lesen nicht vertrauenswürdige Inhalte und handeln über Dateien, APIs und MCP-Tools. Patronus prüft Inhalte und Tool-Aufrufe vor der Ausführung, wendet lokale Regeln an und protokolliert die Entscheidung auf dem Gerät.
Tool-Aufrufe eines Recherche-Agenten
Regel: Recherche- Datei lesen: bericht_q3.pdferlaubt
- Web durchsuchenerlaubt
- Upload an externen Dienstblockiert
- Shell-Befehl ausführenblockiert
Geprüft vor der Ausführung, protokolliert auf dem Gerät.
01
Wo Agent-Zugriff zum Risiko wird
Rechte von Menschen, Tempo von Maschinen
Ein Agent erbt den Zugriff seines Nutzers und kann aus einer manipulierten Anweisung eine Folge autorisiert wirkender Aktionen machen.
Jeder MCP-Server erweitert den Zugriff
Mail-, Datenbank- und Shell-Tools vergrößern den Aktionsraum, oft außerhalb der Sicht bestehender Kontrollen.
Fremde Inhalte können Absicht werden
Versteckte Anweisungen in einem Dokument, Issue oder einer E-Mail können einen Agent zu einem verbundenen Tool umlenken.
02
Absicht prüfen, bevor eine Aktion läuft.
Jeden Tool-Aufruf erfassen
Patronus erfasst Dateizugriffe, API-Aufrufe und MCP-Tools dort, wo der Agent läuft.
Regeln lokal anwenden
Erlaubte Aktionen laufen weiter. Nicht freigegebene Aktionen werden vor der Ausführung blockiert oder einem Menschen vorgelegt.
Eingeschleuste Anweisungen erkennen
Spezialisierte Modelle erkennen Prompt Injection und überschriebene Anweisungen, bevor daraus eine Aktion wird.
03
Kontrolle am Punkt der Ausführung
Jeder Aufruf
Dateien, APIs und MCP-Tools in einer lokalen Spur
Vor Ausführung
Regelentscheidungen fallen, bevor die Aktion läuft
Ein Audit-Trail
strukturierte Entscheidungen zu Agent-Aktivität
04
Fragen zu AI-Agent-Security
Was kontrolliert AI-Agent-Security?
Sie kontrolliert Aktionen über Dateien, APIs, Befehle und MCP-Tools. Patronus verbindet lokale Sichtbarkeit, Regeldurchsetzung und die Erkennung von Prompt Injection.
Warum vergrößert MCP die Angriffsfläche?
Jeder MCP-Server gibt dem Agenten eine weitere Fähigkeit, etwa E-Mails zu lesen, Datenbanken abzufragen oder Shell-Befehle auszuführen. Ein manipulierter Agent kann versuchen, jede verbundene Fähigkeit zu nutzen.
Wie stoppt Patronus einen manipulierten Agenten?
Patronus prüft verarbeitete Inhalte und den daraus entstehenden Tool-Aufruf vor der Ausführung gegen eure Regeln. Der Aufruf kann weiterlaufen, blockiert oder zur menschlichen Freigabe vorgelegt werden.
Wo läuft die Prüfung?
Prüfung und Regeldurchsetzung laufen lokal dort, wo der Agent arbeitet. Inhalte werden nicht durch einen Patronus Cloud-Dienst geleitet.