DSL de routage

​

Quand recourir au DSL

• Spécialisation par tâche — envoyez le code à un modèle de codage, la vision à un modèle de vision, le chat bon marché à un modèle bon marché.
• Routage sensible à la difficulté — n’escaladez que les requêtes difficiles vers un modèle coûteux ; gardez les faciles bon marché.
• Routage sensible à l’agent — routez différemment selon l’état de session (quels outils l’agent a utilisés, si les tests viennent d’échouer, à combien de tours il en est).
• Règles d’heure / locataire / en-tête — routage différent selon l’heure, le groupe d’utilisateurs ou un en-tête de requête.

​

L’activer

​

L’éditeur

• Templates ensemencés avec les modèles réels de votre espace de travail (via une boîte de dialogue de mappage de niveaux à usage unique), de sorte que vous ne partez jamais d’un fichier vide ni ne vous heurtez à un mur « modèle inconnu ».
• Insert — déposez un Model, un Router (orcarouter/<name>), ou un Pool depuis l’autocomplétion au lieu de saisir les identifiants à la main.
• Generate — décrivez le routage que vous voulez en langage clair et obtenez en retour un DSL compilé, propre au lint, ancré dans vos modèles réels.
• Explain — une paraphrase en français simple de ce que fait le jeu de règles actuel.
• Lint en ligne — chaque erreur rapporte {line, column, message} et chaque code de lint a un explicateur ?. La priorité (premier-match-gagne) et les motifs CEL courants sont mis en évidence sur place.

​

Structure du fichier

version: 1              # required — currently must be 1
rules: [...]            # required — 1 to 30 rules, evaluated in order
default: {...}          # required — the effect when no rule matches

rules:
  - id: hard_code              # required: ^[a-z][a-z0-9_]{0,39}$, unique
    when: |                    # optional CEL boolean; absent ⇒ always matches
      task_class == "code" && difficulty > 0.6
    use:
      model: "anthropic/claude-sonnet-4-6"
default:
  delegate: balanced           # fall back to a built-in strategy

​

when: — la condition

​

Variables

​

Macros

​

use: — l’effet

​

Destination

use:
  model:    "anthropic/claude-sonnet-4-6"   # one upstream model
  models:   ["openai/gpt-4o-mini", "..."]   # load-balance across a list
  pool:     "@pool:<name>"                   # an admin-curated pool
  delegate: balanced                         # hand off to a built-in
                                             #   strategy: cheapest |
                                             #   quality | balanced |
                                             #   linucb | gated_adaptive

​

Boutons par appel

use:
  reasoning_effort:       low | medium | high     # OpenAI o-series, Gemini
  thinking_budget_tokens: 1024..64000             # Claude / Gemini thinking
  samples:                1..16                    # the n parameter
  temperature:            0.0..2.0
  param_override:         { ... }                  # merged into upstream params
  header_override:        { ... }                  # merged into upstream headers
  reason_tag:             "<[a-z0-9_]+>"           # shows up in logs/telemetry
  affinity_ttl:           "5m"                      # channel stickiness window
  model_rewrite:          "<upstream-model>"       # send under a different name

​

Cascades de confiance et ensembles (avancé)

rules:
  - id: code_with_repair
    when: task_class == "code"
    use:
      model: "openai/gpt-4o-mini"
    on_low_confidence:
      signals: [patch_invalid, self_doubt, next_turn_test_failed]
      use:
        model: "anthropic/claude-sonnet-4-6"   # repair attempt

use:
  parallel:
    - { model: "anthropic/claude-sonnet-4-6" }
    - { model: "openai/gpt-4o-mini", samples: 2 }
  arbiter:
    strategy: best_of_n        # or majority | first | tests_pass
    model:    "anthropic/claude-sonnet-4-6"   # judge (best_of_n only)
  max_latency_ms: 120000

​

Déployer en toute sécurité

• Mode shadow — pendant une fenêtre après le premier enregistrement, le DSL est évalué mais pas utilisé : votre stratégie précédente sert toujours le trafic pendant que la passerelle enregistre ce que le DSL aurait fait. Le tableau de bord affiche un rapport de diff — pourcentage de routes divergentes, delta de coût projeté, nombre de déclenchements par règle, et à quelle fréquence il est retombé sur default:. Lisez-le avant de faire confiance aux règles.
• Canary — montez progressivement le DSL sur un pourcentage du trafic en direct (5 → 25 → 50 → 100), en surveillant les métriques par tranche, et revenez en arrière instantanément en faisant glisser le pourcentage à 0.

​

Limites et validation

• Schéma — clés requises, types/enums corrects, aucun champ inconnu.
• Taille — ≤ 30 règles, ≤ 16 Kio de YAML, ≤ 200 caractères par when:.
• CEL — analyse, vérification de type contre l’environnement de variables, aucun identifiant inconnu, et when: doit s’évaluer en un bool.
• Effet — exactement une destination par bloc use: ; toutes les références model / models / @pool: doivent se résoudre dans votre espace de travail.
• Plages des boutons — thinking_budget_tokens ∈ [1024, 64000], temperature ∈ [0, 2], samples ∈ [1, 16].
• Réservé — les ids de règle commençant par _ sont réservés ; default comme id de règle est rejeté (utilisez le bloc default: de premier niveau).

​

Un exemple complet

version: 1
rules:
  - id: vision
    when: request.vision
    use: { model: "openai/gpt-4o" }

  - id: cheap_chat
    when: task_class == "chat" && difficulty < 0.3
    use: { delegate: cheapest }

  - id: hard_code
    when: task_class == "code" && difficulty > 0.6
    use:
      model: "anthropic/claude-sonnet-4-6"
      thinking_budget_tokens: 8000
      reason_tag: hard_code

  - id: agent_after_failed_test
    when: agent_state.last_test_failed && agent_state.consecutive_errors >= 2
    use:
      model: "anthropic/claude-sonnet-4-6"
      reason_tag: repair

default:
  delegate: balanced

​

Référence API

​

FAQ