Content Filter und Prompt Shields

Das lernen Sie in dieser Lektion

• die Guardrails von Microsoft Foundry erklären: vier Kategorien, Schweregrade, Blockierstufen, blockieren oder nur markieren
• Prompt Shields für Angriffe im Nutzertext und in Dokumenten einordnen und wissen, was davon von Haus aus eingeschaltet ist
• eine Ablehnung des Inhaltsfilters im Code erkennen, als HTTP 400 mit dem Code content_filter oder als Antwort mit dem Abschlussgrund ContentFilter
• eine Ablehnung richtig behandeln: den Eintrag überspringen, eine Meldung zeigen, nicht wiederholen
• begründen, warum lokale Modelle die ganze Abwehr der Anwendung überlassen und Verbotslisten nicht in den Prompt gehören
• den Aufruf von Prompt Shields mit Azure.AI.ContentSafety bauen und seine Auswertung ohne Cloud testen