Der Reiseassistent der Nordlicht Reisen GmbH (R-01) spricht mit der Kundschaft, liest fremde Dokumente und Hotelbeschreibungen, erzeugt Zielbilder (R-05) und kann Werkzeuge aufrufen. Erstattungen, Rechtsfragen und gesperrte Konten gehen immer an einen Menschen (R-02). Diese Lektion legt fest, wie das im Betrieb belegt wird: mit Guardrails, einer Sicherheitsbewertung vor jeder Version, nachvollziehbaren Spuren und klaren Aufsichtsmodi je Werkzeug. Papier plus zwei übersetzte Skizzen (Bicep, C#); alle Daten sind erfunden (R-12). Kostentreiber: Moderation und Evaluationsläufe nach Verbrauch, Telemetrie je Gigabyte.
Vorwissen. Fremden Text als Daten behandeln „KI-Track, Lektion T6.2", Content Filter und Prompt Shields „T6.3", harte Regeln im Code „T6.4", Freigaben „T7.3", Rechte je Werkzeug „T8.3", Evaluatoren und den Richter „T9.2 und T9.4", Evaluation im Build „T9.5", Spuren „T10.2". Hier wird davon nichts wiederholt. Neu ist die Foundry-Seite: Guardrails an Agenten, die gehosteten Evaluatoren, Herkunft von Bildern und die Frage, wer den Agenten beaufsichtigt.
Die Anforderung
Alle Zahlen sind Annahmen der Aufgabe.
| Nr. | Anforderung | Art | Messgröße | Gewicht | Quelle |
|---|---|---|---|---|---|
| 1.5-01 | Eingaben und Antworten werden auf Schaden und Angriffe geprüft. | F | alle Anfragen | Muss | Sicherheit |
| 1.5-02 | Beim Agenten werden auch Werkzeugaufrufe und -antworten geprüft. | F | 2 zusätzliche Eingriffspunkte | Soll | Sicherheit |
| 1.5-03 | Vor jeder neuen Version läuft eine Sicherheitsbewertung. | R | 40 Fälle, 0 durchgefallen | Muss | Qualität |
| 1.5-04 | Jede Aktion ist nachvollziehbar: Version, Quelle, Freigabe. | R | 100 % der Aktionen | Muss | Revision |
| 1.5-05 | Erzeugte Zielbilder tragen Herkunftsmarken (R-05). | F | alle Bilder | Soll | Redaktion |
| 1.5-06 | Aktionen mit Außenwirkung brauchen eine Freigabe. | R | 0 ohne Freigabe | Muss | Recht |