Streaming

Fonctionnement

Lorsqu’une réponse est générée, OrbitWake reçoit des fragments successifs et met à jour le message assistant au fur et à mesure. Le contenu reste associé à la même réponse jusqu’à la fin du flux.

Événements du flux

Le backend peut transmettre plusieurs types d’événements pendant une requête : contenu généré, activité produit, métadonnées, erreur ou fin de traitement.

L’interface ne présente pas tous les événements internes. Elle affiche uniquement les éléments utiles à l’utilisateur.

Affichage dans l’interface

Le message assistant apparaît pendant que la réponse arrive. Les informations complémentaires, comme les sources ou certaines activités, peuvent être ajoutées lorsqu’elles deviennent disponibles.

Erreurs pendant le streaming

Si le flux échoue avant la fin, OrbitWake peut afficher un état d’erreur et arrêter la génération en cours. Selon la cause, un mécanisme de fallback peut être utilisé avant que l’erreur finale soit présentée.

Bonnes pratiques d’intégration

Pour les clients qui consomment un flux OrbitWake, traitez les fragments comme une réponse en construction. N’interprétez pas un fragment intermédiaire comme la réponse finale et attendez l’événement de fin avant de considérer le traitement comme terminé.

Étapes suivantes

Continuez avec Fichiers pour comprendre comment OrbitWake ajoute des documents et autres éléments au contexte d’une demande.