Routing-DSL

​

Wann du zur DSL greifen solltest

• Aufgabenspezialisierung — sende Code an ein Coding-Modell, Vision an ein Vision-Modell, günstigen Chat an ein günstiges Modell.
• Schwierigkeitsbewusstes Routing — eskaliere nur die schwierigen Anfragen an ein teures Modell; halte die einfachen günstig.
• Agent-bewusstes Routing — route unterschiedlich basierend auf dem Sitzungszustand (welche Tools der Agent verwendet hat, ob gerade Tests fehlgeschlagen sind, in welchem Turn er sich befindet).
• Zeit-/Tenant-/Header-Regeln — unterschiedliches Routing nach Stunde, Benutzergruppe oder einem Anfrage-Header.

​

Aktivierung

​

Der Editor

• Templates, geseedet mit den echten Modellen deines Workspace (über einen einmaligen Tier-Mapping-Dialog), sodass du nie mit einer leeren Datei startest oder gegen eine “Unbekanntes Modell”-Wand läufst.
• Insert — füge ein Model, einen Router (orcarouter/<name>) oder einen Pool per Autovervollständigung ein, statt Bezeichner von Hand einzutippen.
• Generate — beschreibe das gewünschte Routing in natürlicher Sprache und erhalte kompilierte, lint-saubere DSL, fundiert in deinen echten Modellen.
• Explain — eine umgangssprachliche Umschreibung dessen, was der aktuelle Regelsatz tut.
• Inline-Lint — jeder Fehler meldet {line, column, message} und jeder Lint-Code hat einen ?-Erklärer. Präzedenz (First-Match-Wins) und die gängigen CEL-Muster werden an Ort und Stelle aufgezeigt.

​

Dateistruktur

version: 1              # required — currently must be 1
rules: [...]            # required — 1 to 30 rules, evaluated in order
default: {...}          # required — the effect when no rule matches

rules:
  - id: hard_code              # required: ^[a-z][a-z0-9_]{0,39}$, unique
    when: |                    # optional CEL boolean; absent ⇒ always matches
      task_class == "code" && difficulty > 0.6
    use:
      model: "anthropic/claude-sonnet-4-6"
default:
  delegate: balanced           # fall back to a built-in strategy

​

when: — die Bedingung

​

Variablen

​

Makros

​

use: — der Effekt

​

Ziel

use:
  model:    "anthropic/claude-sonnet-4-6"   # one upstream model
  models:   ["openai/gpt-4o-mini", "..."]   # load-balance across a list
  pool:     "@pool:<name>"                   # an admin-curated pool
  delegate: balanced                         # hand off to a built-in
                                             #   strategy: cheapest |
                                             #   quality | balanced |
                                             #   linucb | gated_adaptive

​

Knobs pro Aufruf

use:
  reasoning_effort:       low | medium | high     # OpenAI o-series, Gemini
  thinking_budget_tokens: 1024..64000             # Claude / Gemini thinking
  samples:                1..16                    # the n parameter
  temperature:            0.0..2.0
  param_override:         { ... }                  # merged into upstream params
  header_override:        { ... }                  # merged into upstream headers
  reason_tag:             "<[a-z0-9_]+>"           # shows up in logs/telemetry
  affinity_ttl:           "5m"                      # channel stickiness window
  model_rewrite:          "<upstream-model>"       # send under a different name

​

Confidence-Kaskaden & Ensembles (fortgeschritten)

rules:
  - id: code_with_repair
    when: task_class == "code"
    use:
      model: "openai/gpt-4o-mini"
    on_low_confidence:
      signals: [patch_invalid, self_doubt, next_turn_test_failed]
      use:
        model: "anthropic/claude-sonnet-4-6"   # repair attempt

use:
  parallel:
    - { model: "anthropic/claude-sonnet-4-6" }
    - { model: "openai/gpt-4o-mini", samples: 2 }
  arbiter:
    strategy: best_of_n        # or majority | first | tests_pass
    model:    "anthropic/claude-sonnet-4-6"   # judge (best_of_n only)
  max_latency_ms: 120000

​

Sicheres Ausrollen

• Shadow-Modus — für ein Fenster nach dem ersten Speichern wird die DSL ausgewertet, aber nicht verwendet: deine vorherige Strategie bedient weiterhin den Verkehr, während das Gateway aufzeichnet, was die DSL getan hätte. Das Dashboard zeigt einen Diff-Report — Prozentsatz abweichender Routen, prognostizierte Kostendifferenz, Fire-Counts pro Regel und wie oft auf default: durchgefallen wurde. Lies ihn, bevor du den Regeln vertraust.
• Canary — ramp die DSL auf einen Prozentsatz des Live-Verkehrs hoch (5 → 25 → 50 → 100), beobachte dabei die Metriken pro Slice und rolle sofort zurück, indem du den Prozentsatz auf 0 schiebst.

​

Limits & Validierung

• Schema — erforderliche Schlüssel, korrekte Typen/Enums, keine unbekannten Felder.
• Größe — ≤ 30 Regeln, ≤ 16 KiB YAML, ≤ 200 Zeichen pro when:.
• CEL — parst, typecheckt gegen die Variablenumgebung, keine unbekannten Bezeichner, und when: muss zu einem bool auswerten.
• Effekt — genau ein Ziel pro use:-Block; alle model / models / @pool:-Referenzen müssen in deinem Workspace auflösbar sein.
• Knob-Bereiche — thinking_budget_tokens ∈ [1024, 64000], temperature ∈ [0, 2], samples ∈ [1, 16].
• Reserviert — Regel-IDs, die mit _ beginnen, sind reserviert; default als Regel-ID wird abgelehnt (verwende den Top-Level-default:-Block).

​

Ein vollständiges Beispiel

version: 1
rules:
  - id: vision
    when: request.vision
    use: { model: "openai/gpt-4o" }

  - id: cheap_chat
    when: task_class == "chat" && difficulty < 0.3
    use: { delegate: cheapest }

  - id: hard_code
    when: task_class == "code" && difficulty > 0.6
    use:
      model: "anthropic/claude-sonnet-4-6"
      thinking_budget_tokens: 8000
      reason_tag: hard_code

  - id: agent_after_failed_test
    when: agent_state.last_test_failed && agent_state.consecutive_errors >= 2
    use:
      model: "anthropic/claude-sonnet-4-6"
      reason_tag: repair

default:
  delegate: balanced

​

API-Referenz

​

FAQ