Ein Modell ist kein Dienst von der Stange. Bevor Nordlicht Reisen einen Helfer baut, sind drei Fragen zu klären: Welche Fähigkeit braucht die Aufgabe? Wie wird das Modell bereitgestellt, und wo werden die Daten verarbeitet? Und mit welchen Einstellungen läuft es? Die Prüfung AI-901 fragt alle drei. Die Modellwahl mit C#-Beispielen zeigt der KI-Track (KI-Track, T1.3), Foundry-Projekte und Deployments ebenfalls (KI-Track, T10.1). Diese Lektion bleibt beim Überblick. Sie führt nichts gegen Azure aus; die Angaben stammen aus Microsoft Learn.

Der Modellkatalog

Microsoft Foundry („Foundry“) ist die Plattform, auf der Sie Modelle finden, vergleichen und bereitstellen. Der Modellkatalog im Foundry-Portal ist die Anlaufstelle. Nach Learn enthält er mehr als zehntausend Modelle, in zwei Gruppen:

  • Modelle, die Azure verkauft (Foundry Models sold by Azure): Microsoft betreibt und verkauft sie selbst, mit Microsoft-Support. Dazu zählen alle Azure-OpenAI-Modelle und ausgewählte Modelle anderer Anbieter.
  • Modelle von Partnern und Community: Sie kommen von anderen Anbietern, und diese bleiben für Unterstützung und Wartung zuständig. Learn nennt als Beispiele Anthropic und offene Modelle aus dem Hugging-Face-Hub.

Der Katalog bietet Filter, zum Beispiel für Region, Bereitstellungsart, Lebenszyklus (Vorschau, allgemein verfügbar, veraltet), unterstützte Funktionen wie Reasoning oder Tool-Aufrufe und die Aufgabenart (Chat, Audio, Embeddings). Zu jedem Modell gibt es eine Modellkarte mit Eckdaten, Benchmarks und Lizenz. Learn weist darauf hin, dass Sie für die Wahl eines geeigneten Modells selbst verantwortlich sind und die Modellbeschreibungen lesen sollen.

Modelle nach Fähigkeit wählen

Fähigkeit Was das Modell tut Nordlicht-Beispiel
Chat und Text versteht Anweisungen und erzeugt Text Antwortentwurf für eine Kundenanfrage
Reasoning löst Aufgaben schrittweise, mit mehr Denkaufwand Reiseplan mit vielen Bedingungen prüfen
Multimodal nimmt Text und Bilder entgegen ein hochgeladenes Zimmerfoto beschreiben
Embeddings wandelt Text in Zahlenlisten, damit sich Ähnlichkeit messen lässt passende Hotelbeschreibungen zu einer Frage finden
Bilderzeugung erzeugt Bilder aus Text Motiv für einen Reisekatalog
Sprache und Audio Sprache in Text, Text in Sprache, Übersetzung Hotline-Aufnahme transkribieren

Learn führt für die von Azure verkauften Modelle auf: Chat- und Reasoning-Modelle der GPT-Reihe, Embedding-Modelle, Modelle zur Bilderzeugung (zum Beispiel gpt-image-1), Audio-Modelle für Spracherkennung, Übersetzung und Sprachausgabe sowie ein Modell zur Videoerzeugung. Ob ein Modell Bilder als Eingabe annimmt, steht auf seiner Modellkarte. Namen und Versionen wechseln schnell; lesen Sie die Liste am Tag der Entscheidung nach.

Entscheidung für Nordlicht: Der Helfer im Kundendienst braucht ein Chat-Modell, das Deployment bekommt den Namen reise-chat. Als Modell dahinter nennt Learn zum Beispiel gpt-5-mini. Ob es in der gewünschten Region und Bereitstellungsart verfügbar ist, ist offen und wird vor dem Anlegen im Portal geprüft.

Grenzen eines Modells stehen in der Modellliste: der Kontext (wie viele Token ein Modell pro Anfrage verarbeitet) und die maximale Ausgabe. Eingabe, Ausgabe und beim Reasoning auch die Denk-Token teilen sich den Platz. Mehr Eingabe bedeutet weniger Raum für die Antwort. Die Ausgabegrenze ist eine Obergrenze, keine Zusage.

Bereitstellen: erst Deployment, dann Aufruf

Ein Modell nutzen Sie über ein Deployment, einen benannten Zugang zum Modell in Ihrer Foundry-Ressource. Der Aufruf nennt den Namen des Deployments, nicht die Modellkennung. Foundry kennt laut Learn drei Bereitstellungsarten:

Art Kurz gesagt
Serverless API Microsoft hostet das Modell; Sie zahlen je Nutzung, meist je Token. Learn nennt sie die bevorzugte und leistungsfähigste Art.
Managed compute (Vorschau) offene und eigene Modelle auf dedizierter GPU-Kapazität, abgerechnet nach Beschleuniger-Stunden
Foundry Local on Azure Local (Vorschau) geeignete Modelle laufen auf Ihrer eigenen angebundenen Infrastruktur

Daneben gibt es „instant access“ (Vorschau): unterstützte Modelle lassen sich ohne Deployment beim Namen aufrufen. Das ist keine Bereitstellungsart.

Deployment-Typen der Serverless API

Der Typ legt fest, wo Ihre Daten verarbeitet werden, wie Sie zahlen und wie sich Leistung und Wartezeit verhalten:

Typ Verarbeitung Kurz
Global Standard in jeder Azure-Region Learn: Start für die meisten Aufgaben, neueste Modelle zuerst, breiteste Regionen
Data Zone Standard nur innerhalb einer Datenzone (USA, EU oder Asien-Pazifik) je Token, wenn die Verarbeitung in der Zone bleiben soll
Standard innerhalb der angegebenen Azure-Geografie je Token, für geringe Mengen
Provisioned (global, Datenzone, regional) wie der jeweilige Typ reservierte Kapazität für gleichmäßige Antwortzeiten
Batch (global, Datenzone) wie der jeweilige Typ große Mengen ohne Eile, Ziel 24 Stunden

Nicht jedes Modell unterstützt jeden Typ. Die Verfügbarkeit je Modell und Region steht auf Learn und im Portal.

Entscheidung für Nordlicht, der Datenort: Kundendaten sollen möglichst in der EU verarbeitet werden. Learn legt das Verhalten so fest: Gespeicherte Daten bleiben in der gewählten Azure-Geografie. Verarbeitet werden Eingaben und Antworten bei Global-Typen in beliebigen Regionen, bei Data Zone-Typen nur in der Datenzone, bei Standard innerhalb der Geografie. Die EU-Datenzone folgt der Datengrenze der EU von Azure, zu der laut Learn auch EFTA-Länder wie Norwegen und die Schweiz gehören können. Microsoft kann Regionen ohne Vorankündigung hinzufügen. Für Nordlicht heißt das: Data Zone Standard in einer EU-Region, wenn es das gewählte Modell dort gibt (offen, bis es im Portal geprüft ist). Deshalb steht im Fall „möglichst“. Welche Geografien es für den Typ Standard gibt, ist hier offen.

Parameter: das Verhalten einstellen

Jede Anfrage trägt Einstellungen. Die wichtigsten, wie Learn sie für Chat-Modelle der Azure-OpenAI-Schnittstellen beschreibt:

Parameter Wirkung
System message (Systemnachricht) Anweisung, die Rolle und Grenzen des Modells festlegt; siehe Lektion 2.2
temperature Zufälligkeit der Auswahl. Höhere Werte (Learn nennt 0,8) machen die Ausgabe zufälliger, niedrigere (0,2) fokussierter und berechenbarer.
top_p Alternative zur Temperatur, „Nucleus Sampling“: Es zählen nur Token aus den wahrscheinlichsten Anteilen. 0,1 heißt: die obersten zehn Prozent der Wahrscheinlichkeit.
max_completion_tokens Obergrenze für die erzeugten Token, bei Reasoning-Modellen einschließlich der Denk-Token. Die Responses API nennt es max_output_tokens.
stop Zeichenfolgen, bei denen die Ausgabe endet
presence_penalty, frequency_penalty bremsen neue Themen beziehungsweise Wiederholungen
stream Teilantworten laufend senden statt am Ende
seed Versuch, gleiche Eingaben gleich zu beantworten; laut Learn keine Garantie

Learn rät, temperature oder top_p zu ändern, nicht beide. Die Prüfung nennt die Parameter mit diesen englischen Namen. Ein Kundendienst, der gleichartig antworten soll, passt eher zu einem niedrigen Wert, Ideen zu Reisezielen zu einem höheren.

Reasoning-Modelle sind die Ausnahme. Sie unterstützen laut Learn häufig temperature, top_p und die beiden Penalty-Parameter nicht. Setzen Sie max_completion_tokens großzügig, denn Denk-Token und Antwort zählen zusammen. Welche Parameter ein Modell kennt, steht auf seiner Modellkarte.

Übung 1

Entscheiden Sie für Nordlicht, jeweils mit einem Satz Begründung:

  1. Welche Fähigkeit braucht der Auftrag „Hotline-Anrufe als Text festhalten“, welche „ähnliche Hotelbeschreibungen zu einer Kundenfrage finden“?
  2. Welcher Deployment-Typ passt, wenn Kundendaten in der EU-Datenzone bleiben sollen und die Kosten je Nutzung entstehen?
  3. Der Helfer soll Antworten gleichmäßig und sachlich formulieren. Welchen Parameter senken Sie, und was lassen Sie in Ruhe?
  4. Das gewählte Modell ist ein Reasoning-Modell, und die Antworten werden abgeschnitten. Was prüfen Sie zuerst?

Lösung 1
  1. Anrufe als Text: Audio-Modell für Spracherkennung (siehe Lektion 1.5). Ähnliche Hotelbeschreibungen: Embeddings, weil sie Texte nach Bedeutung vergleichbar machen.
  2. Data Zone Standard in einer EU-Region: die Verarbeitung bleibt in der Zone, abgerechnet wird je Token. Das Angebot des Modells dort ist vorher zu prüfen.
  3. temperature niedriger stellen und top_p unverändert lassen, denn Learn rät, nur einen von beiden zu ändern.
  4. max_completion_tokens: Denk-Token und Antwort teilen sich die Grenze, sie ist wahrscheinlich zu klein.

Weiterlesen