Oberflächenmuster für KI-Produkte

Kurz gesagt

In einer klassischen Oberfläche bekommt jeder, der denselben Button drückt, dasselbe Ergebnis. Bei KI ist das nicht so. Das People + AI Guidebook von Google (PAIR) sagt es deutlich: KI beruht auf Wahrscheinlichkeit und Unsicherheit und liegt deshalb manchmal falsch.

Alle Muster auf dieser Seite bauen auf dieser Tatsache auf. Nutzer sollten sehen, wie belastbar eine Antwort ist. Sie sollten eine falsche Antwort korrigieren und bei Bedarf zu einem Menschen wechseln können.

Ich stütze mich auf zwei Quellen. Die eine ist PAIR. Die andere sind die 18 Leitlinien von Microsoft für die Interaktion zwischen Mensch und KI (HAX). Sie wurden im Mai 2019 auf der Konferenz CHI veröffentlicht. In der Nutzerstudie der Autoren prüften 49 Designer die Leitlinien an 20 verbreiteten KI-Produkten.

Vier Muster auf einer Antwortkarte

Die Karte unten ist eine einzelne Antwort eines fiktiven Shop-Assistenten. Zunächst sind alle Funktionen aus. Schalten Sie eine ein, ändert sich die Karte, und unten steht der Grundsatz, auf dem diese Funktion beruht.

Probieren Sie es: die Antwortkarte

Sie: Ich habe den Mantel vor 20 Tagen bekommen. Kann ich ihn zurückgeben?

KI-Assistent

Grad der Sicherheit: mittel

Da bin ich mir nicht ganz sicher. Bei Aktionsware gilt eine andere Rückgabefrist.

Ja. Ihre Rückgabefrist beträgt 30 Tage ab Lieferung, Sie haben also noch 10 Tage. Das Etikett muss am Artikel sein.

Quellen

1. Rückgabe- und Umtauschbedingungen, Punkt 2: 30 Tage Rückgabefrist
2. Ihre Bestellung: Lieferdatum und Artikeldaten

Ist diese Antwort falsch, korrigieren Nutzer sie hier mit einem Tippen.

Hilft Ihnen die Antwort nicht weiter, machen Sie mit einem Mitarbeiter weiter. Er bekommt eine Zusammenfassung des Gesprächs, Sie müssen nicht von vorn erzählen.

Aktive Muster der Karte und ihre Grundsätze

• Vertrauensanzeige. Über der Antwort stehen der Grad der Sicherheit und der Grund dafür. HAX G2: Helfen Sie Nutzern zu verstehen, wie oft das System falsch liegen kann. PAIR: Zeigen Sie Vertrauen in Kategorien.
• Quellen zeigen. Es wird aufgelistet, auf welchem Dokument und welchen Bestelldaten die Antwort beruht. HAX G11: Erklären Sie, warum das System so gehandelt hat. PAIR: Sagen Sie, auf welche Daten Sie sich stützen.
• Falsch? Korrigieren. Nutzer korrigieren die Antwort mit einem Tippen, die Karte sagt, was sich geändert hat. HAX G9: Machen Sie Korrekturen leicht, wenn das System falsch liegt. G15: Machen Sie es leicht, während der Nutzung Vorlieben mitzuteilen. PAIR: Zeigen Sie, was das Feedback ändert.
• An Mitarbeiter übergeben. Reicht die Antwort nicht, geht es mit einer Zusammenfassung des Gesprächs an einen Menschen weiter. PAIR: Geben Sie die Kontrolle an die Nutzer zurück, wenn die KI scheitert.

Der Assistent eines fiktiven Shops und fiktive Rückgabebedingungen. Schalten Sie die Funktionen ein und aus, die Antwortkarte ändert sich sofort. Unten steht, auf welchen PAIR-Abschnitt oder welche HAX-Leitlinie sich jede aktive Funktion stützt.

Sind alle Kästchen aus, wirkt die Antwort sicher. Hat der Kunde den Mantel aber im Angebot gekauft, ist die Rückgabefrist längst abgelaufen. Die Vertrauensanzeige benennt dieses Risiko, und das Korrekturmuster repariert die Antwort.

Chat-Oberfläche

Die erste Aufgabe einer Chat-Oberfläche ist, Nutzern zu sagen, dass sie mit einem Programm sprechen. Laut dem PAIR-Kapitel zu mentalen Modellen weckt es unrealistische Erwartungen, KI wie einen Menschen darzustellen. Die Empfehlung ist klar: Machen Sie für alle verständlich deutlich, dass das Produkt kein Mensch ist.

Die zweite Aufgabe ist zu zeigen, was der Assistent versteht. Die erste HAX-Leitlinie (G1) verlangt, klarzumachen, was das System kann. Eines ihrer Muster ist, mögliche Eingaben mit Beispielen zu zeigen. Ein paar Beispielfragen über dem leeren Chatfeld, etwa „Wo ist mein Paket?“ oder „Wie sind die Rückgabebedingungen?“, leisten das.

Dieser Startbildschirm ist eigentlich ein leerer Zustand. Vor der ersten Nachricht sagt er Nutzern, was sie hier schreiben können.

PAIR rät auch davon ab, „KI-Magie“ zu versprechen. Sagen Sie, was das Produkt kann und was nicht. Halten Sie die Einführung kurz und lassen Sie Nutzer es mit rückgängig zu machenden Aufgaben mit geringem Risiko ausprobieren. Den Einführungsablauf beschreibe ich im Muster Onboarding.

Empfehlung

Bei einer Empfehlung ist die eigentliche Frage, warum Nutzer sie sehen. HAX G11 verlangt Zugang zu einer Erklärung, warum das System so gehandelt hat. Ein Grund in einer Zeile wie „Sie haben letzten Monat Laufschuhe gekauft“ kann reichen.

Bieten Sie eine Steuerung wie „Weniger davon zeigen“ an, nennen Sie ihre Wirkung. Laut PAIR filtert eine solche Steuerung manchmal nur Inhalte und trainiert das Modell nicht. Erwarten Nutzer etwas anderes, sind sie enttäuscht. HAX G16 geht in dieselbe Richtung: Zeigen Sie sofort, wie die Aktion der Nutzer das weitere Verhalten des Systems beeinflusst.

Ist das Vertrauen gering, zeigen Sie statt einer einzigen Empfehlung mehrere Optionen. PAIR nennt das N-Best-Optionen und schreibt, dass sie besonders bei geringem Vertrauen helfen.

Unsicherheits- und Vertrauensanzeigen

HAX G2 verlangt, dass Nutzer verstehen, wie oft das System falsch liegen kann. PAIR nennt das Kalibrieren von Vertrauen. Nutzer sollten dem System weder zu sehr noch zu wenig vertrauen.

Wichtig ist die Darstellung. PAIR empfiehlt, Vertrauen in Kategorien wie „hoch, mittel, niedrig“ zu zeigen und für jede Stufe festzulegen, was Nutzer tun sollen. Bei Prozentangaben ist PAIR vorsichtig, weil sie voraussetzen, dass Nutzer Wahrscheinlichkeiten gut verstehen. Beeinflusst die Vertrauensanzeige die Entscheidung nicht, ist es auch eine Option, sie gar nicht zu zeigen.

Page Laubheimer von NN/g empfiehlt, bei Antworten mit geringem Vertrauen die Unsicherheit in der ersten Person auszudrücken. Der Satz „Da bin ich mir nicht ganz sicher“ in der Demo ist ein Beispiel dafür. Laubheimer warnt außerdem: Ein fester Warnhinweis unter jeder Antwort wird mit der Zeit zu Hintergrundrauschen. Zeigen Sie die Warnung in den Momenten, in denen ein Fehler wahrscheinlicher ist.

Quellenangabe

Eine Quelle gibt Nutzern die Möglichkeit, die Antwort selbst zu prüfen. PAIR verlangt zu sagen, welche Daten das System verwendet: Daten nur dieses Nutzers oder Daten, die von allen Nutzern gesammelt wurden? Fehlen Daten, sagen Sie Nutzern auch, dass sie ihr eigenes Urteil einsetzen müssen.

Verknüpfen Sie die Quelle mit dem Dokument, auf dem der Satz beruht. Eine allgemeine Linkliste unter „Quellen“ sagt Nutzern nicht, welcher Satz woher stammt.

Laubheimer sieht hier ein Risiko. Sichtbare Quellen können bei Nutzern den Eindruck erwecken, die Antwort sei richtig, und ihre Aufmerksamkeit verringern. Deshalb ersetzt die Quelle die Vertrauensanzeige nicht. Beide wirken zusammen.

Korrektur und Feedback

HAX G9 verlangt, Bearbeiten, Verbessern oder Rückgängigmachen leicht zu machen, wenn das System falsch liegt. G15 verlangt, dass Nutzer während der normalen Nutzung ihre Vorlieben mitteilen können. Der Button „Falsch? Korrigieren“ in der Demo verbindet beides: Nutzer wählen, was falsch ist, und die Antwort ändert sich sofort.

Sagen Sie, was nach dem Feedback passiert. PAIR vergleicht zwei Dankesmeldungen. Nur „Danke für Ihr Feedback“ zu sagen, verrät nicht, was sich ändert. Sagt eine Lauf-App dagegen „In Ihrer nächsten Empfehlung gibt es keine Steigungen“, ist der Umfang klar.

Laut PAIR sollten sich Feedback-Optionen nicht überschneiden und alle möglichen Fälle abdecken. Nutzer sollten frühere Angaben später löschen und das System in den nicht personalisierten Zustand zurücksetzen können. PAIR beschreibt das unter dem Stichwort Bearbeitbarkeit.

Übergabe an einen Menschen

Kann der Assistent nicht antworten, sollten Nutzer nicht in eine Sackgasse geraten. Das PAIR-Kapitel zu Fehlern verlangt, dass Nutzer die Aufgabe leicht übernehmen können, wenn die KI scheitert. Nutzer sollten die Lage kennen und wissen, was sie als Nächstes tun und wie.

Im Chatbot-Design entspricht dem ein Button zur Übergabe an einen Mitarbeiter. Er muss nicht unter jeder Antwort stehen. Er sollte aber sichtbar sein, wenn der Assistent zweimal falsch verstanden hat oder wenn es um Geld oder Gesundheit geht.

Schicken Sie bei der Übergabe eine Zusammenfassung des Gesprächs mit. Wer einem Mitarbeiter sein Anliegen von vorn erklären muss, hat das Gefühl, dass der Assistent seine Zeit verschwendet hat.

HAX G10 empfiehlt, den Umfang des Dienstes einzuschränken, wenn das System unsicher ist. Eines ihrer Muster ist, Unklarheit vor dem Handeln auszuräumen, ein anderes, zu einer anderen Methode zu wechseln. Die Übergabe an einen Menschen ist eine dieser Methoden.

Fehler und falsche Antworten

Ein Fehler bedeutet in der KI nicht immer einen Fehlerbildschirm. PAIR ergänzt die bekannten Nutzer- und Systemfehler um eine dritte Art: den Kontextfehler. Bei einem Kontextfehler funktioniert das System wie vorgesehen, schätzt aber falsch ein, was Nutzer gerade wollen.

Es gibt auch Fälle, in denen das System gar keine richtige Antwort hat. PAIR nennt sie Failstates. Die Meldung sollte die Grenze des Systems so konkret wie möglich beschreiben. Schreiben Sie statt „Ein Fehler ist aufgetreten“ lieber „Auf Ihre Bestellhistorie kann ich nicht zugreifen. Wenn Sie Ihre Bestellnummer schreiben, sehe ich nach.“

PAIR hat für Fehlermeldungen eine kurze Regel: Sprechen Sie wie ein Mensch, nicht wie eine Maschine. Geben Sie den Fehler zu und laden Sie Nutzer ein, weiterzumachen. Die Sprache der Meldung beschreibe ich zusätzlich im Muster Fehlermeldungen.

Ist die Eingabe unklar, fragen Sie, bevor Sie raten. PAIR empfiehlt eine Bestätigung der Absicht wie „Meinten Sie …?“. Das erste Muster von HAX G10 sagt dasselbe: Räumen Sie Unklarheit aus, bevor Sie handeln.

Datenschutzhinweis

Lernt ein KI-Produkt aus dem Verhalten der Nutzer, sollten sie das von Anfang an wissen. Für dieses implizite Feedback aus Produktprotokollen verlangt PAIR, vorher zu informieren und eine Erlaubnis einzuholen. Nutzer sollten Teile dieser Weitergabe abwählen können.

Geben Sie den Hinweis im Kontext. PAIR nennt als Beispiel einen kurzen Text, der im richtigen Moment zeigt, wo Nutzer ihre Daten sehen und Einstellungen ändern können. Auch HAX G17 verlangt, dass Nutzer allgemein einstellen können, was das System beobachtet und wie es sich verhält.

Unter dem Chatfeld reicht eine Zeile: „Ihre Gespräche werden gespeichert, um den Dienst zu verbessern. Sie können das in den Einstellungen abschalten.“ Diese Einstellung tief in Menüs zu verstecken, wäre ein irreführendes Dark Pattern.

Muster und ihre Grundsätze

Die Tabelle unten ordnet jedem Muster die passende HAX-Leitlinie und das PAIR-Kapitel zu. Die Abschnittsnummern sind die nummerierten Überschriften innerhalb der PAIR-Kapitel.

Muster	HAX-Leitlinie	PAIR-Kapitel
Chat-Oberfläche und Erwartungen	G1: Machen Sie klar, was das System kann	Mentale Modelle, Abschnitt 2 und 4
Empfehlung	G11: Erklären Sie, warum es so gehandelt hat; G16: Nennen Sie die Folgen einer Aktion	Feedback + Kontrolle, Abschnitt 2
Unsicherheit und Vertrauensanzeige	G2: Machen Sie klar, wie gut es das kann	Erklärbarkeit + Vertrauen, Abschnitt 4
Quellenangabe	G11	Erklärbarkeit + Vertrauen, Abschnitt 1
Korrektur und Feedback	G9: Machen Sie Korrekturen leicht; G15: detailliertes Feedback	Feedback + Kontrolle, Abschnitt 2 und 3
Übergabe an einen Menschen	G10: Engen Sie den Dienst ein, wenn Zweifel bestehen	Fehler + elegantes Scheitern, Abschnitt 3
Fehler und falsche Antwort	G10	Fehler + elegantes Scheitern, Abschnitt 1 und 2
Datenschutzhinweis	G17: Bieten Sie globale Einstellungen an	Feedback + Kontrolle, Abschnitt 1

Die HAX-Leitlinien sind in vier Phasen eingeteilt: zu Beginn, während der Interaktion, wenn das System falsch liegt, und mit der Zeit. G1 und G2 gehören zum Beginn, G9, G10 und G11 zum Moment des Irrtums. G15, G16 und G17 gehören zur Phase mit der Zeit.

Wie man testet

Geben Sie eine KI-Oberfläche nicht nach einem einzigen Versuch frei. Raluca Budiu von NN/g schreibt, dass eine einzelne Ausgabe keine Bewertung ist, sondern nur ein Beispiel. Sprachmodelle können auf dieselbe Frage jedes Mal anders antworten.

Budiu empfiehlt, den Test wie eine quantitative Studie anzulegen. Wählen Sie viele Fragen und lassen Sie jede mehrmals laufen. Sehen Sie dann nach, bei welchen Fragen sich die Fehler häufen.

Probieren Sie auch die Oberfläche mit echten Nutzern aus. Lesen sie die Vertrauensanzeige richtig, klicken sie auf die Quelle? Das sehen Sie mit einem Usability-Test. Auch PAIR empfiehlt, viel Zeit dafür einzuplanen zu testen, ob die Vertrauensanzeige Nutzern wirklich hilft.

Meine Notiz

Was ich in Produkten mit neuer KI-Funktion am häufigsten sehe: Die Antwort klingt immer gleich sicher. Ob das Modell sicher ist oder nicht, der Ton bleibt derselbe. Und nach der ersten falschen Antwort vertrauen Nutzer keiner mehr.

Ich beginne immer mit dem Bildschirm für die falsche Antwort. Wie die richtige Antwort aussieht, zeichnet jeder. Was Nutzer bei einer falschen Antwort sehen und wohin sie gehen, zeichnen nur wenige.

Meine zweite Empfehlung: Verstecken Sie den Button zur Übergabe an Mitarbeiter nicht. Manche Teams vergraben ihn, damit die Supportkosten sinken. Ein Assistent ohne Ausweg bringt Nutzer aber nur verärgerter zum Mitarbeiter. Wie KI die Arbeit von Designern verändert, beschreibe ich in meinem Beitrag KI und UX-Designer.