Резервный переход

Механизм резервного перехода 诺玛AI при недоступности основной модели автоматически переключается на запасную модель, обеспечивая бесперебойную работу вашего сервиса.

Принцип работы#

• Запрос отправляется к основной модели
• Если основная модель возвращает ошибку (5xx, тайм-аут, превышение лимита и т. п.)
• Модели из списка fallback автоматически пробуются по порядку
• Возвращается первый успешный ответ

Резервный переход для отдельного запроса#

Настройте резервный переход для отдельного запроса через параметр `provider.fallback`:

from openai import OpenAI
 
client = OpenAI(
    base_url="https://as.apinoma.com/v1",
    api_key="<ваш APINOMA_API_KEY>"
)

response = client.chat.completions.create(
    model="openai/gpt-4o",  # основная модель
    messages=[{"role": "user", "content": "Привет"}],
    extra_body={
        "provider": {
            "fallback": [
                "anthropic/claude-sonnet-4.6",  # первая запасная
                "google/gemini-pro-compatible-flash-lite-preview"              # вторая запасная
            ]
        }
    }
)

# посмотреть фактически использованную модель
print(response.model)

Условия срабатывания резервного перехода#

Резервный переход срабатывает в следующих случаях:

Условие

Описание

HTTP 5xx

Ошибка сервера

Тайм-аут запроса

Тайм-аут ответа модели

429 превышение лимита

Вышестоящая модель достигла лимита частоты запросов

Модель недоступна

Обслуживание или отключение поставщика

Резервный переход не срабатывает в следующих случаях:

Условие

Описание

HTTP 4xx (кроме 429)

Ошибка клиента — требуется исправить запрос

Фильтрация контента

Контент, который модель отказалась генерировать

Совместное использование с маршрутизацией#

Механизм резервного перехода можно комбинировать с маршрутизацией поставщиков:

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "Привет"}],
    extra_body={
        "provider": {
            "routing": "latency",    # маршрутизация по минимальной задержке
            "fallback": [             # список резервных моделей
                "anthropic/claude-sonnet-4.6",
                "google/gemini-pro-compatible-flash-lite-preview"
            ]
        }
    }
)

Рекомендуемые схемы резервного перехода#

Рекомендуемые модели см. в Каталоге моделей.

Лучшие практики#

• Выбирайте запасные модели с близкими возможностями — это обеспечит единое качество вывода после перехода
• Резервный переход между поставщиками — чтобы избежать одновременной недоступности моделей одного поставщика
• Задавайте 2–3 запасных модели — этого достаточно для большинства сценариев сбоев
• Отслеживайте частоту переходов — при частых переходах, возможно, стоит сменить основную модель

Последнее обновление: 23 июня 2026 г.