Ein Lauf des Gruppenreise-Teams vervielfacht Modellaufrufe (Lektion 0.2), und mehrere Kundinnen teilen sich ein Projekt, eine Foundry-Ressource und einen Monatsdeckel (R-09, M-09). Drei Fragen bleiben: Wie viele Token darf ein Lauf verbrauchen? Wem gehört, was verbraucht wurde, damit eine Rückbelastung möglich ist (M-11)? Und wie verfügbar ist das Team, wenn Dienste ausfallen? Beträge kommen nicht vor; wo die Preisseite gebraucht wird, steht es dabei.
Vorwissen. Token und ihre Grenzen: „KI-Track, Lektion T1.2“. Monatsdeckel als Code und Azure-Budgets als Warnung: „T10.3“. Kontingente und Messplan: „AI-103, Lektion 1.3“. Aufrufzähler, GrenzClient und die Kennzeichen: „Lektion 0.2“; Tor und Aufrufgrenze: „1.4“; Ratenlimits und Zeiten: „3.3“; Spans: „3.4“. Budgets und Kostenanalyse: „K3, Lektion 3.1.2“. SLI, SLO, SLA und zusammengesetzte Ziele: „K3, Lektion 3.15.1“. Nichts davon wird wiederholt.
Neu in dieser Lektion (Annahmen der Aufgabe). (1) Neben 25 Aufrufen (1.4) gilt je Lauf eine Obergrenze von 200.000 Token (Eingabe plus Ausgabe). (2) Ein Verbrauchsbuch hat je Modellaufruf einen Posten (mandantId, Deployment, Eingabe-Token, Ausgabe-Token). (3) Zuteilung: Modellverbrauch nach Gewichten je Deployment, gemeinsame Kosten nach Anteil an den Läufen, nicht zuteilbarer Rest ausgewiesen. (4) Verfügbarkeitsziel: 99 % der Anfragen werden binnen 10 Minuten bearbeitet (Monat); keine zweite Region.
Die Anforderung
| Nr. | Anforderung | Art | Messgröße | Gewicht | Quelle |
|---|---|---|---|---|---|
| 3.5-01 | Ein Lauf endet an 25 Aufrufen oder 200.000 Token, je nachdem, was zuerst erreicht ist. | R | Grenze im Code | Muss | R-09 |
| 3.5-02 | Jeder Modellaufruf erzeugt einen Posten mit mandantId, Deployment und Token. |
F | 100 % der Aufrufe | Muss | M-11 |
| 3.5-03 | Die Zuteilung eines Monats ist mit der Summe in Cost Management abgeglichen; was nicht zugeteilt wird, steht als Rest da. | Q | Abweichung erklärt | Muss | M-11 |
| 3.5-04 | Berichte nennen nur die mandantId, keine Namen. |
R | 0 Namen | Muss | M-07 |
| 3.5-05 | 99 % der Anfragen sind binnen 10 Minuten bearbeitet. | Q | Monatswert | Soll | M-02 |
Kostenrahmen. Kostentreiber: Token je Million (Eingabe, Ausgabe und Denk-Token), reservierte Kapazität, falls gewählt, Application Insights je Gigabyte, Speicher für Exporte. Preise: Preisseiten von Foundry und Azure Monitor.