Patronus

Tiger Guard: Content Moderation für Prompts, Antworten und Kommentare, lokal auf der CPU

The TeamNov 19, 20267 minthreat-research
Tiger Guard: Content Moderation für Prompts, Antworten und Kommentare, lokal auf der CPU

Häufige Fragen

Was ist Tiger Guard?

Tiger Guard ist ein offenes Klassifikationsmodell von Patronus für Content Moderation. Es stuft einen Text als SAFE oder UNSAFE ein, erkennt Beleidigungen, Hass, Drohungen und schädliche Anfragen auf Deutsch und Englisch und läuft lokal auf der CPU. Lizenz Apache 2.0, zwei Größen mit 308M und 141M Parametern.

Erkennt Tiger Guard Hate Speech auf Deutsch?

Ja. Deutsch und Englisch sind die trainierten und getesteten Sprachen. Im Held-out-Test mit identischen Prompts erkennt das Modell 83 Prozent der schädlichen Anfragen auf Englisch und 75 Prozent auf Deutsch. Andere Sprachen wurden nicht trainiert und nicht getestet.

Ist Tiger Guard kostenlos?

Ja. Beide Modelle stehen unter Apache 2.0 auf Hugging Face, als Transformers-Gewichte und als ONNX-Dateien bis hinunter zu 106 MB. Du betreibst sie auf eigener Hardware, ohne API-Kontingent.

Was unterscheidet Tiger Guard von Wolf Defender?

Wolf Defender erkennt Prompt Injection, also fremde Anweisungen in Texten, die ein Modell umlenken sollen. Tiger Guard erkennt schädliche Inhalte: Beleidigungen, Hass, Drohungen und Anfragen nach Hilfe bei Straftaten. Die beiden Aufgaben überschneiden sich kaum, deshalb ergänzen sich die Modelle und keines ersetzt das andere.

Braucht Tiger Guard eine GPU?

Nein. Die ONNX-Dateien laufen auf der CPU. Auf einem Apple M4 braucht das Vollmodell 19 bis 24 Millisekunden pro Fenster mit kurzen Texten, Small 13 bis 14 Millisekunden.

Patronus auf dem eigenen Rechner ausprobieren.

In der Live-Demo wählst du einen Fall und siehst sofort, was beim Anbieter ankommt.

Reports und Newsletter →