跳转到主要内容
两条路径:
  • response_format: {"type": "json_object"} —— 模型返回合法 JSON
  • response_format: {"type": "json_schema", "json_schema": {...}} —— 模型 输出符合你的 schema

示例(json_schema,OpenAI)

resp = client.chat.completions.create(
    model="openai/gpt-4o-mini",
    messages=[{"role": "user", "content": "Extract name and age."}],
    response_format={
        "type": "json_schema",
        "json_schema": {
            "name": "person",
            "strict": True,
            "schema": {
                "type": "object",
                "properties": {
                    "name": {"type": "string"},
                    "age": {"type": "integer"},
                },
                "required": ["name", "age"],
            },
        },
    },
)

跨服务商支持

只要上游模型能够处理 response_format,它就被支持。对于 Gemini, OrcaRouter 的翻译层会把它映射为 responseMimeType + responseSchema。 对于 OpenAI / Grok / DeepSeek(这些都是 OpenAI 兼容上游),该字段以 原生形态抵达上游。Anthropic 没有 response_format 的等价物, 所以在那边需要 schema 约束输出时请使用 Anthropic 的 tool_use 模式。
服务商json_objectjson_schema备注
OpenAIOpenAI 原生字段形态
Grok(xAI)xAI 是 OpenAI 兼容
DeepSeek⚠️请核对 DeepSeek 各模型的支持情况
Gemini翻译为 responseMimeType + responseSchema
Anthropic请改用 tool_use 模式

另见