推論情報を表示する

Google’s Gemma 4 のような推論モデルは、最終的な回答に加えて、推論ステップに関する情報も返します。このページでは、Serverless Inference で推論対応モデルを識別する方法、レスポンス内のどこで推論出力を確認できるか、また推論の切り替えをサポートするモデルで推論のオン/オフを切り替える方法について説明します。このガイドを使用すると、モデルの中間的な推論内容を確認したり、レスポンスに推論を含めるかどうかを制御したりできます。モデルが推論をサポートするかどうかを判断するには、次のサポートされるモデルの表、または UI のそのカタログページにある Supported Features セクションを確認してください。推論情報は、レスポンスの reasoning フィールドに表示されます。推論非対応モデルのレスポンスでは、このフィールドの値は null です。

サポートされるモデル (推論対応)

次の表は、推論出力を返すことができる Serverless Inference モデルと、それぞれの動作を示しています。

常時有効: モデルは常に推論出力を返します。これを無効にすることはできません。
デフォルトで有効 / デフォルトで無効: 推論出力のオンとオフを切り替えられます。表には、設定を指定しない場合のデフォルト値が示されています。
適応型; デフォルトではモデルが選択: モデルがリクエストごとに、推論出力を返すかどうかを決定します。この動作は上書きできます。

モデル ID (API 用)	推論サポート
`deepseek-ai/DeepSeek-V4.1-Flash`	デフォルトで有効
`deepseek-ai/DeepSeek-V4-Flash`	デフォルトで無効
`deepseek-ai/DeepSeek-V4-Flash-0731`	デフォルトで有効
`deepseek-ai/DeepSeek-V4-Pro`	デフォルトで無効
`deepseek-ai/DeepSeek-V4-Pro-0813`	デフォルトで有効
`google/gemma-4-31B-it`	デフォルトで無効
`google/gemma-4-26B-A4B-it`	デフォルトで無効
`ibm-granite/granite-4.2-8b`	デフォルトで有効
`MiniMaxAI/MiniMax-M3`	適応型; デフォルトではモデルが選択
`moonshotai/Kimi-K2.7-Code`	常時有効
`moonshotai/Kimi-K2.6`	常時有効
`nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B`	デフォルトで有効
`nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B`	デフォルトで有効
`openai/gpt-oss-120b`	常時有効
`openai/gpt-oss-20b`	常時有効
`Qwen/Qwen3.8-27B`	デフォルトで有効
`Qwen/Qwen3.6-35B-A3B`	デフォルトで有効
`Qwen/Qwen3.6-27B`	デフォルトで有効
`Qwen/Qwen3.5-35B-A3B`	デフォルトで有効
`zai-org/GLM-5.3-Flash`	常時有効
`zai-org/GLM-5.2`	デフォルトで有効

推論が `常時有効` のモデル

前述のサポートされるモデル表でモデルが常時有効と記載されている場合、そのモデルには常に推論が含まれており、これを無効にすることはできません。

推論を無効にする

モデルが前述のサポートされるモデルの表で デフォルトで有効 として記載されている場合は、トークン使用量を減らしたり、応答を簡潔にしたりするために、推論を無効にできます。リクエストで推論を無効にするには、chat_template_kwargs で enable_thinking フラグを False (Python) または false (Bash) に設定します。リクエストが完了すると、応答には推論コンテンツが含まれません。

Python
Bash

import openai

client = openai.OpenAI(
    base_url='https://api.inference.wandb.ai/v1',
    api_key="[YOUR-API-KEY]",  # https://wandb.ai/settings でAPIキーを作成します
)

response = client.chat.completions.create(
    model="google/gemma-4-31B-it",
    messages=[
        {"role": "user", "content": "3.11 and 3.8, which is greater?"}
    ],
    extra_body={
        "chat_template_kwargs": {
            "enable_thinking": False
        }
    },
)

curl https://api.inference.wandb.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer [YOUR-API-KEY]" \
  -d '{
    "model": "google/gemma-4-31B-it",
    "messages": [
      { "role": "user", "content": "3.11 and 3.8, which is greater?" }
    ],
    "chat_template_kwargs": {"enable_thinking": false}
  }'

推論を有効にする

モデルが前述のサポートされるモデルの表でデフォルトで無効と記載されている場合は、前述のコードスニペットでenable_thinkingフラグをTrue (Python) またはtrue (Bash) に設定すると、推論を有効にできます。

Response Settings

チュートリアル

API リファレンス

サポートされるモデル (推論対応)

推論が `常時有効` のモデル

推論を無効にする

推論を有効にする

​サポートされるモデル (推論対応)

​推論が 常時有効 のモデル

​推論を無効にする

​推論 を有効にする

サポートされるモデル (推論対応)

推論が `常時有効` のモデル

推論を無効にする

推論を有効にする