Zum Hauptinhalt springen
Setze stream: true, um inkrementelle Tokens als Server-Sent Events statt einer einzigen finalen Antwort zu erhalten. Die Latenz bis zum ersten Token sinkt auf eine einzige Netzwerk-Roundtrip.

​
OpenAI-kompatibel (Chat / Responses)

curl -N https://api.orcarouter.ai/v1/chat/completions \
  -H "Authorization: Bearer sk-orca-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4o-mini",
    "messages": [{"role":"user","content":"Tell me a haiku."}],
    "stream": true
  }'
Jede Zeile ist data: {...}. Der Stream endet mit data: [DONE]. Um das finale usage-Objekt innerhalb des Streams zu erhalten, übergib stream_options: { include_usage: true } — der Chunk direkt vor [DONE] enthält Token-Zählungen.

​
Anthropic Messages

Anthropic verwendet benannte SSE-Ereignisse. Auf der erstklassigen Anthropic-Oberfläche von OrcaRouter kommt der vollständige Satz, den Anthropic emittiert, direkt durch: 
event: message_start
event: content_block_start
event: ping
event: content_block_delta
event: content_block_stop
event: message_delta
event: message_stop
Jedes Ereignis wird gefolgt von einer data: {...}-JSON-Zeile. 
curl -N https://api.orcarouter.ai/v1/messages \
  -H "Authorization: Bearer sk-orca-..." \
  -H "Content-Type: application/json" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "anthropic/claude-sonnet-4.6",
    "max_tokens": 256,
    "messages": [{"role":"user","content":"Tell me a haiku."}],
    "stream": true
  }'

​
Fehler während eines Streams

Mitten im Stream emittierte Fehler können keine HTTP-Statuscodes verwenden (der Status wurde beim Öffnen des Streams gesendet). Siehe Betrieb / Fehler für die In-Band-Fehlerformen.

​
Streaming und Fallback

Sobald ein Byte der Antwort an den Client gesendet wurde, kann OrcaRouter nicht mehr auf den nächsten Ketteneintrag zurückgreifen — siehe die Streaming-Warnung in Modell-Fallbacks.

​
Nächste Schritte

Tool-Aufrufe

Streame Tool-Call-Deltas, sobald sie ankommen.

Fehler

Behandle Fehler mitten im Stream.