Passer au contenu principal
Définissez stream: true pour recevoir des tokens incrémentaux comme Server-Sent Events au lieu d’une réponse finale unique. La latence jusqu’au premier token tombe à un seul aller-retour réseau.

Compatible OpenAI (Chat / Responses)

curl -N https://api.orcarouter.ai/v1/chat/completions \
  -H "Authorization: Bearer sk-orca-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4o-mini",
    "messages": [{"role":"user","content":"Tell me a haiku."}],
    "stream": true
  }'
Chaque ligne est data: {...}. Le flux se termine par data: [DONE]. Pour obtenir l’objet usage final dans le flux, passez stream_options: { include_usage: true } — le morceau juste avant [DONE] inclura les compteurs de tokens.

Anthropic Messages

Anthropic utilise des événements SSE nommés. Sur la surface Anthropic de première classe d’OrcaRouter, l’ensemble complet émis par Anthropic passe directement :
event: message_start
event: content_block_start
event: ping
event: content_block_delta
event: content_block_stop
event: message_delta
event: message_stop
Chaque événement est suivi d’une ligne JSON data: {...}.
curl -N https://api.orcarouter.ai/v1/messages \
  -H "Authorization: Bearer sk-orca-..." \
  -H "Content-Type: application/json" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "anthropic/claude-sonnet-4.6",
    "max_tokens": 256,
    "messages": [{"role":"user","content":"Tell me a haiku."}],
    "stream": true
  }'

Erreurs pendant un flux

Les erreurs émises en milieu de flux ne peuvent pas utiliser les codes de statut HTTP (le statut a été envoyé à l’ouverture du flux). Voir Opérations / Erreurs pour les formes d’erreur en bande.

Streaming et repli

Une fois qu’un seul octet de la réponse a été envoyé au client, OrcaRouter ne peut plus se rabattre sur l’entrée suivante de la chaîne — voir l’avertissement streaming dans Repli de modèles.

Étapes suivantes

Appel d'outils

Streamez les deltas d’appel d’outils à mesure qu’ils arrivent.

Erreurs

Gérez les échecs en milieu de flux.