توجيه المزودين

يدعم 诺玛AI بنية متعددة المزودين، حيث يمكن تقديم خدمة النموذج نفسه عبر عُقد مزودين مختلفة. ومن خلال استراتيجية التوجيه، يمكنك التحكم في طريقة توزيع الطلبات.

استراتيجية التوجيه#

الاستراتيجية

الوصف

سيناريو الاستخدام

`priority`

حسب ترتيب الأولوية (الافتراضي)

الأولوية للاستقرار

`cost`

الأولوية للتكلفة الأدنى

المعالجة الدُفعية، الحساسية للتكلفة

`latency`

الأولوية لأقل زمن استجابة

المحادثة الفورية، تفاعل المستخدم

`balanced`

موازنة الحمل

سيناريوهات التزامن العالي

طريقة الاستخدام#

اضبط استراتيجية التوجيه عبر معامل التوسعة `provider.routing`:

from openai import OpenAI
 
client = OpenAI(
    base_url="https://as.apinoma.com/v1",
    api_key="<APINOMA_API_KEY الخاص بك>"
)

response = client.chat.completions.create(
    model="openai/gpt-4o",
    messages=[{"role": "user", "content": "مرحبا"}],
    extra_body={
        "provider": {
            "routing": "cost"  # الأولوية للتكلفة الأدنى
        }
    }
)

شرح الاستراتيجيات بالتفصيل#

`priority` — توجيه حسب الأولوية (الافتراضي)

توزيع الطلبات حسب ترتيب أولوية المزودين المُعد مسبقًا في 诺玛AI. تُستخدم العُقد الأعلى استقرارًا أولًا.

`cost` — الأولوية للتكلفة

يختار تلقائيًا عُقدة المزود الأقل تكلفة حاليًا. مناسب للمعالجة الدُفعية ووسم البيانات وغيرها من السيناريوهات غير الحساسة لزمن الاستجابة.

`latency` — الأولوية لزمن الاستجابة

يختار عُقدة المزود ذات أقل زمن استجابة. مناسب لسيناريوهات المحادثة الفورية التي تتطلب استجابة سريعة.

`balanced` — موازنة الحمل

يوزع الطلبات بالتساوي على جميع عُقد المزودين المتاحة. مناسب لسيناريوهات التزامن العالي، ويتجنب تحميل نقطة واحدة بشكل زائد.

أفضل الممارسات#

• استخدم `latency` للمحادثة الفورية — وقت انتظار أقصر للمستخدم
• استخدم `cost` للمهام الدُفعية — يقلل التكلفة الإجمالية
• استخدم `priority` افتراضيًا في بيئة الإنتاج — يضمن الاستقرار
• مع التراجع عند الفشل — يمكن دمج استراتيجية التوجيه مع معامل `fallback`

يمكنك أيضًا ضبط استراتيجية التوجيه الافتراضية العامة في لوحة تحكم 诺玛AI، دون الحاجة إلى تحديدها في كل طلب.

آخر تحديث في 23 يونيو 2026