Chuyển đến nội dung chính
orcarouter/auto là một bộ định tuyến có tên mà chúng tôi tạo cho mọi tài khoản khi đăng ký. Nó định tuyến mỗi yêu cầu đến mô hình chat đang hoạt động rẻ nhất mà tài khoản của bạn có quyền truy cập, được chọn mới cho mỗi yêu cầu.

​
Cách dùng

response = client.chat.completions.create(
    model="orcarouter/auto",
    messages=[{"role": "user", "content": "..."}],
)
Không cần thiết lập gì khác — router tồn tại ngay khi tài khoản của bạn được tạo.

​
Hành vi mặc định

Cấu hình seed:
  • Mẫu: trống — khớp mọi mô hình chat mà tài khoản của bạn có quyền truy cập. Các mô hình mới khi lên kệ sẽ tự động trở thành ứng viên.
  • Chiến lược: cheapest — chọn mô hình có giá theo token thấp nhất trong số các ứng viên đang hoạt động.
  • Mô hình mặc định: không có. Nếu mẫu không giải ra được mô hình khả dụng nào, yêu cầu thất bại với lỗi rõ ràng. Bạn có thể đặt mặc định trong bảng điều khiển nếu muốn có lưới an toàn.
Bạn có thể xem và chỉnh Auto Router trong bảng điều khiển dưới mục Routing. Bạn có thể thu hẹp mẫu (ví dụ giới hạn openai/*), đổi chiến lược, đặt default_model, hoặc xóa router hoàn toàn — giống như bất kỳ bộ định tuyến có tên nào.

​
Đổi chiến lược

Bảng điều khiển đưa ra bốn thẻ chiến lược. Cheapest là mặc định seed ở trên; chọn cái khác để thay đổi cách orcarouter/auto giải lựa chọn:
ThẻEnum backendTác dụng
CheapestcheapestGiá theo token thấp nhất trong số các ứng viên đang hoạt động. Mặc định seed.
QualityqualityĐiểm chất lượng cao nhất trong số các ứng viên đang hoạt động, bất kể giá.
BalancedbalancedChọn một tùy chọn chi phí thấp vẫn đạt một ngưỡng chất lượng; dự phòng sang tùy chọn chất lượng cao nhất nếu không có gì đạt ngưỡng. Mặc định cho các router mới bạn tự tạo.
Adaptivelinucb / gated_adaptiveLinUCB contextual bandit theo từng router học từ lưu lượng thực của bạn để cân nhắc chất lượng, chi phí, độ trễ và độ tin cậy cho từng yêu cầu. Hai chế độ con (Standard / Gated) — xem Bộ định tuyến có tên.
Adaptive cần một thời gian khởi động ngắn theo từng mô hình trước khi bắt đầu định hướng lựa chọn. Trong giai đoạn khởi động nó hoạt động giống Balanced — đó là điều bình thường, không phải lỗi.

​
Khi nào nên dùng Auto Router hơn là tên mô hình rõ ràng

  • Bạn không muốn ghim vào một mô hình cụ thể; bạn muốn mô hình chat đang hoạt động rẻ nhất ở mỗi yêu cầu.
  • Bạn đang prototyping và không muốn quan tâm nhà cung cấp nào đang hoạt động.
  • Bạn muốn định tuyến của OrcaRouter “tự chạy” mà không cần nghĩ ngợi.

​
Khi nào nên dùng tên mô hình rõ ràng

  • Bạn cần đầu ra xác định — chọn các mô hình khác nhau ở các thời điểm khác nhau sẽ thay đổi phong cách và chất lượng sinh.
  • Bạn đang dùng các tính năng riêng của một mô hình (ví dụ cache_control của Claude, hoặc tạo ảnh bản địa của một mô hình).
  • Bạn muốn chi phí mỗi yêu cầu dự đoán được.

​
Xem Auto Router đã chọn gì

Kiểm tra header phản hồi X-Orca-Resolved-Model. Xem Header phản hồi. 
res = client.chat.completions.with_raw_response.create(
    model="orcarouter/auto", ...
)
actual_model = res.headers.get("X-Orca-Resolved-Model")
# ví dụ "openai/gpt-4o-mini"