Prompt Injection

Das lernen Sie in dieser Lektion

• direkte und indirekte Angriffe unterscheiden und für jede KI-Funktion der Kladde die Stellen nennen, an denen fremder Text hereinkommt
• erklären, warum ein Sprachmodell Anweisungen und Daten nicht sicher trennen kann
• die OWASP Top 10 für LLM-Anwendungen lesen und auf die Kladde beziehen
• die drei Ziele eines Angreifers unterscheiden: Regeln brechen, Daten abziehen, Werkzeuge missbrauchen
• Angriffe als Testsatz mit Ziel, Prüfung und der Antwort eines Modells festhalten, das darauf hereinfällt
• fünf Angriffe gegen den eigenen Support-Chat und die Bewertung laufen lassen und das Ergebnis dokumentieren