フォールバック

诺玛AI のフォールバックは、メインモデルがつかえないときにバックアップモデルへじどうできりかえ、サービスをつづけます。

しくみ#

リクエストをメインモデルへおくる
メインモデルがエラーをかえしたとき（5xx、タイムアウト、レートリミットなど）
fallback リストのモデルをじゅんにためす
さいしょにせいこうしたレスポンスをかえす

ひとつのリクエストでのフォールバック#

`provider.fallback` パラメータで、ひとつのリクエストにフォールバックをせっていできます:

コード

from openai import OpenAI
 
client = OpenAI(
    base_url="https://as.apinoma.com/v1",
    api_key="<あなたの APINOMA_API_KEY>"
)
 
response = client.chat.completions.create(
    model="openai/gpt-4o",  # メインモデル
    messages=[{"role": "user", "content": "こんにちは"}],
    extra_body={
        "provider": {
            "fallback": [
                "anthropic/claude-sonnet-4.6",  # 第1候補
                "google/gemini-pro-compatible-flash-lite-preview"              # 第2候補
            ]
        }
    }
)
 
# 実際に使用されたモデルを確認
print(response.model)

フォールバックのトリガーじょうけん#

つぎのケースでフォールバックがうごきます:

じょうけん

せつめい

HTTP 5xx

サーバーエラー

リクエストタイムアウト

モデルのレスポンスがタイムアウト

429 レートリミット

アップストリームモデルがレートリミットにとうたつ

モデルがつかえない

プロバイダーのメンテナンスまたはていし

つぎのケースではフォールバックはうごきません:

じょうけん

せつめい

HTTP 4xx（429 をのぞく）

クライアントエラー — リクエストのしゅうせいがひつよう

コンテンツフィルター

モデルがせいせいをきょひしたコンテンツ

ルーティングとのくみあわせ#

フォールバックはプロバイダールーティングといっしょにつかえます:

コード

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "こんにちは"}],
    extra_body={
        "provider": {
            "routing": "latency",    # レイテンシ優先ルーティング
            "fallback": [             # フォールバックリスト
                "anthropic/claude-sonnet-4.6",
                "google/gemini-pro-compatible-flash-lite-preview"
            ]
        }
    }
)

ベストプラクティス#

ちかいのうりょくのモデルをバックアップにえらぶ — フォールバックあともアウトプットのひんしつをそろえる
ことなるプロバイダーでフォールバックする — ひとつのプロバイダーのどうじしょうがいをさける
バックアップは 2〜3 こにする — ほとんどのしょうがいケースにそなえられる
フォールバックのひんどをみる — よくうごくならメインモデルのへんこうをけんとうする

さいしゅうこうしん: 2026 ねん 6 がつ 23 にち