Bevor in diesem Kurs ein Modell etwas tut, kommt die Frage, wie es sich verhalten soll. Microsoft beantwortet sie mit sechs Prinzipien für verantwortungsvolle KI (englisch Responsible AI). Sie bilden nach Microsofts eigenen Worten den Rahmen des „Responsible AI Standard“, an den sich die Entwicklungsteams des Unternehmens halten. Die Prüfung AI-901 fragt jedes dieser Prinzipien einzeln ab. Diese Lektion erklärt sie auf Prüfungsniveau und hängt sie an das Beispiel des ganzen Kurses.

Das Beispiel ist die erfundene Nordlicht Reisen GmbH, eine Reisebürogruppe in Norddeutschland mit 25 Reisebüros und einem Buchungsportal. Die Kundschaft schreibt meist Deutsch, einzelne Nachrichten kommen auf Englisch. In drei Monaten soll ein Pilotprojekt laufen: kleine KI-Helfer für den Kundendienst. Sie sollen die Beratenden unterstützen und nicht ersetzen. Die Leiterin des Kundendienstes, Frau Berg (berg@example.com), führt das Projekt. Alle Namen und Zahlen im Kurs sind Annahmen der Aufgaben.

Die sechs Prinzipien

Die Reihenfolge ist die, in der Microsoft sie nennt:

Prinzip Englisch Kurz gesagt
Fairness Fairness Ähnliche Menschen und Fälle werden ähnlich behandelt.
Zuverlässigkeit und Sicherheit Reliability and safety Das System tut zuverlässig, was vorgesehen ist, auch unter unerwarteten Bedingungen.
Datenschutz und Sicherheit Privacy and security Persönliche und geschäftliche Daten sind geschützt.
Inklusion Inclusiveness Das System bezieht alle ein und passt zu unterschiedlichen Bedürfnissen.
Transparenz Transparency Menschen verstehen, was das System kann, was es nicht kann und wie es zu Ergebnissen kommt.
Verantwortlichkeit Accountability Menschen sind für das System verantwortlich und behalten die Kontrolle.

Zwei Hinweise zu den Namen. In der Prüfung und auf Learn stehen die englischen Begriffe. Außerdem fasst eine Learn-Seite zwei Prinzipien in einem Abschnitt zusammen („Fairness and inclusiveness“). Es bleiben trotzdem sechs getrennte Prinzipien.

Was jedes Prinzip bedeutet

Fairness. KI-Systeme sollen alle Menschen fair behandeln und ähnliche Gruppen nicht unterschiedlich beeinflussen. Learn nennt als Beispiel Hinweise zu Behandlungen, Kreditanträgen oder Bewerbungen: Menschen mit ähnlichen Voraussetzungen sollen ähnliche Empfehlungen bekommen. Ein Modell lernt aus Daten. Spiegeln diese Daten alte Vorurteile, kann auch die Ausgabe sie spiegeln.

Nordlicht: Ein Helfer schlägt Antworten auf Beschwerden vor. Er soll bei gleicher Lage nicht freundlicher oder knapper antworten, nur weil ein Name fremd klingt oder die Nachricht Fehler enthält.

Zuverlässigkeit und Sicherheit. Das System soll wie entworfen arbeiten, auf unerwartete Bedingungen sicher reagieren und sich nicht schädlich manipulieren lassen. Wie gut es mit verschiedenen Lagen umgeht, hängt davon ab, was die Entwickelnden beim Entwerfen und Testen bedacht haben. Daraus folgt: testen, auch mit seltenen und schwierigen Eingaben.

Nordlicht: Der Helfer bekommt eine Nachricht auf Englisch, ein Foto statt Text oder eine leere Eingabe. Er soll nicht abstürzen und nichts erfinden, sondern sicher reagieren, etwa mit dem Hinweis, dass ein Mensch übernimmt.

Datenschutz und Sicherheit. KI-Systeme brauchen Daten, um zu arbeiten. Deshalb sind Schutz und Sicherheit persönlicher und geschäftlicher Informationen wichtig. Learn verweist auf Datenschutzgesetze, die Transparenz über Erhebung, Nutzung und Speicherung verlangen und den Menschen Kontrolle geben. Technisch gehören dazu Zugriffsbeschränkung, Verschlüsselung und überwachte Konfiguration.

Nordlicht: Die Hotline-Aufnahmen und Rechnungen enthalten Namen, Adressen und Buchungsdaten. Wer sie sehen darf und wo sie verarbeitet werden, ist eine Entwurfsfrage von Anfang an. Das Thema Datenort greift Lektion 1.3 auf.

Inklusion. KI-Systeme sollen alle ansprechen und einbeziehen. Eine Learn-Seite zu Agenten nennt als Beispiele Barrierefreiheit, Sprachvarianten und unterschiedliche technische Vorkenntnisse.

Nordlicht: Die Kundschaft ist nicht einheitlich: Manche schreiben ausführlich, andere diktieren, manche brauchen einfache Sprache. Ein Helfer, der nur mit einer Art von Eingabe zurechtkommt, schließt Menschen aus.

Transparenz. KI-Systeme sollen ihre Fähigkeiten und Grenzen klar machen. Menschen sollen verstehen, was das System kann, wie Informationen genutzt werden und wie Ausgaben entstehen. Wichtig ist dabei die Erklärbarkeit (englisch interpretability): brauchbare Erklärungen, warum ein System sich so verhält. Das gilt besonders, wenn Entscheidungen das Leben von Menschen betreffen.

Nordlicht: Wer mit dem Helfer schreibt, erfährt, dass ein KI-System antwortet und dass ein Mensch die Antwort prüft. Das Prinzip verlangt nicht, jede Rechnung des Modells zu erklären. Es verlangt, dass niemand über die Natur des Gegenübers im Unklaren bleibt.

Verantwortlichkeit. Menschen, die KI-Systeme entwerfen und einsetzen, sind dafür verantwortlich, wie diese arbeiten. Learn sagt es so: KI-Systeme sollen nicht die letzte Instanz bei Entscheidungen sein, die das Leben von Menschen betreffen, und Menschen behalten die sinnvolle Kontrolle über stark autonome Systeme. Eine andere Learn-Seite zu Agenten sagt es noch konkreter: Eine benannte Person ist für das Verhalten und die Ergebnisse jedes Agenten verantwortlich. Dort steht auch, dass Menschen bei folgenreichen Aktionen eingebunden bleiben und dass nach außen gerichtete Agenten klar als KI kenntlich sein sollen.

Nordlicht: Das ist Frau Berg. Sie ist die benannte Verantwortliche des Pilotprojekts. Wenn der Helfer etwas Falsches sagt, ist „das Modell war es“ keine Antwort. Frau Berg muss sagen können, wer ihn eingerichtet hat, was er darf und wer seine Ergebnisse prüft.

Die Grenzen des Piloten sind die Prinzipien in Regeln

Das Projekt setzt deshalb von Anfang an zwei Grenzen. Kein Modell entscheidet über Erstattungen, Kündigungen oder Vertragsfragen. Und: Ein Mensch prüft jede Antwort des Agenten, bevor sie an Kundinnen und Kunden geht. Beide Regeln folgen aus der Verantwortlichkeit (Menschen behalten die Kontrolle), aus der Fairness (keine automatische Ablehnung ohne Prüfung) und aus der Zuverlässigkeit (ein Fehler erreicht die Kundschaft nicht ungeprüft). Spätere Lektionen bauen die Helfer innerhalb dieser Grenzen.

Was Microsoft darüber hinaus anbietet

Microsoft beschreibt in „Responsible AI for Microsoft Foundry“ einen Ablauf in drei Stufen: Risiken entdecken (zum Beispiel einen Agenten mit feindlichen Eingaben testen), schützen (Inhaltsfilter und Schutzvorrichtungen, damit Schädliches nicht bei Nutzenden ankommt) und steuern (Protokollierung und laufende Überwachung). Auf die Inhaltsfilter geht der KI-Track im Modul zur Sicherheit ein (KI-Track, T6, Lektion T6.3); hier genügt: Filter helfen, ersetzen aber das Nachdenken über die sechs Prinzipien nicht. Wie Prinzipien und Recht zusammenhängen, steht im KI-Track, T1.4.

Übung 1

Ordnen Sie jede Situation dem Prinzip zu, das sie am stärksten berührt (Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz, Verantwortlichkeit):

  1. Die Hotline-Aufnahmen dürfen nur das Kundendienstteam abhören, und die Dateien sind verschlüsselt abgelegt.
  2. Das Pilotprojekt hat einen Verantwortlichen, der gegenüber der Geschäftsführung Auskunft gibt.
  3. Der Helfer antwortet auch auf Nachrichten mit Tippfehlern und in einfacher Sprache brauchbar.
  4. Auf der Seite steht: „Diese Antwort wurde von einem KI-System vorbereitet und von einem Menschen geprüft.“
  5. Vor dem Start wird der Helfer mit leeren, sehr langen und fremdsprachigen Nachrichten getestet.
  6. Zwei Anfragen mit gleichem Inhalt, aber unterschiedlichem Namen im Absender bekommen gleich gute Antworten.

Lösung 1
  1. Datenschutz und Sicherheit. Es geht um Zugriff und Schutz persönlicher Daten.
  2. Verantwortlichkeit. Menschen stehen für das System ein.
  3. Inklusion. Das System soll auch mit unterschiedlicher Ausdrucksweise zurechtkommen. Der Tippfehler allein wäre auch eine Frage der Zuverlässigkeit; die einfache Sprache gibt den Ausschlag für Inklusion.
  4. Transparenz. Menschen erfahren, womit sie es zu tun haben und wie die Antwort entsteht.
  5. Zuverlässigkeit und Sicherheit. Es wird getestet, wie das System unter unerwarteten Bedingungen reagiert.
  6. Fairness. Ähnliche Fälle werden ähnlich behandelt.

Manche Situationen berühren mehrere Prinzipien. Wichtig ist, dass Sie das stärkste benennen und in einem Satz begründen können.

Weiterlesen