AR ▾
الحصول على مفتاح API

توصية نموذج LLM بدون رقابة: كيفية اختيار بين التشغيل المحلي وواجهة API المستضافة

أول ما يجب على الباحثين عن توصية نموذج LLM بدون رقابة تحديده هو طريقة التشغيل وليس اسم النموذج. يختلف نوع الجهاز المطلوب والتكلفة وجهد الإدارة بشكل كبير بين التشغيل المباشر على جهازك الخاص واستخدام واجهة API المستضافة.

تاريخ التحديث

رسم توضيحي للمقارنة يوضع جهاز كمبيوتر محلي وخادم سحابي على طرفي الميزان

ملخص رئيسي

  • من الأفضل تحديد طريقة التشغيل (محلي أو API) قبل ترتيب النماذج، مما يقلل من التجارب والخطأ.
  • يتمثل مزايا التشغيل المحلي في العمل دون اتصال والتحكم الكامل، بينما تتمثل مزايا API الاستضافة في إمكانية البدء فوراً دون حاجة إلى معدات.
  • لا يحتوي هذا الدليل على ترتيب الأداء أو أرقام المقاييس. نرشدك إلى كيفية إجراء الاختبار بنفسك باستخدام نفس الموجّه.
  • بخيار API، النموذج هو uncensored، مع نافذة سياق 100,000 رمز، وسعر الإدخال $0.15 وسعر الإخراج $0.50 لكل مليون رمز.

ما لا نوصي به وما نوصي به في هذا الدليل

من الصعب الوثوق بالمقالات التي تصنف نموذجاً واحداً في المركز الأول، لأن النماذج تتغير باستمرار، وقد تختلف النتائج لنفس النموذج حسب مستوى التكميم والموجّه. تقدم هذه المقالة معايير الاختيار بدلاً من جداول الترتيب. وبمجرد توفر هذه المعايير، يمكنك تقييم النماذج الجديدة بنفس الطريقة.

يشير مصطلح نموذج غير خاضع للرقابة هنا إلى نموذج أوزان مفتوحة مُعدّل لرفض عدد أقل من المحتويات مقارنة بروبوتات الدردشة التجارية العامة، مع افتراض الاستخدام القانوني للبالغين. يُستخدم بشكل أساسي في إنشاء المحتوى والمحادثة الموجهة للبالغين، مثل كتابة الروايات، ولعب الأدوار، وتطبيقات الرفقة. لا يُسمح بأي محتوى جنسي يتعلق بالقاصرين بأي شكل من الأشكال، وهي خط يجب الالتزام به سواء كنت تستخدم التشغيل المحلي أو واجهة برمجة التطبيقات.

المسارات الثلاثة: المحلي، استئجار الخادم مباشرة، API الاستضافة

التشغيل المحلي

تشغيل ملفات النموذج مباشرة على جهازك باستخدام أدوات مثل Ollama أو llama.cpp. لا يتطلب اتصالاً بالإنترنت، ولا تغادر المحادثات إلى الخارج. ومع ذلك، كلما كان النموذج أكبر، زادت حاجة ذاكرة GPU (VRAM). يمكنك تقليل الحجم عن طريق التكميم، لكن ذلك قد يؤثر على الجودة. تحقق من صفحات الأدوات والنماذج لمعرفة ما إذا كان النموذج يعمل على جهازك.

استئجار خادم GPU وتشغيله مباشرة

هذه طريقة استئجار وحدة معالجة رسومات سحابية لإنشاء الخادم مباشرة. لديك حرية اختيار النموذج، لكن إعداد الخادم والتحديثات والمراقبة وإدارة التكاليف تقع على عاتقك بالكامل. تأكد من بنية التسعير، خاصة إذا كنت تدفع مقابل وقت الاستئجار حتى أثناء عدم الاستخدام.

واجهة برمجة التطبيقات المستضافة

إرسال الطلبات إلى خادم يديره طرف آخر والدفع حسب الاستخدام. لا توجد تكاليف تشغيل أو معدات، لكن خيارات اختيار النموذج محدودة ضمن النطاق الذي يحدّه المزود، وتنتقل الموجّهات عبر خوادم خارجية. تنطبق واجهة برمجة التطبيقات (API) لهذا الموقع على هذه الفئة.

جدول مقارنة حسب المعايير

المعيارمحليواجهة برمجة التطبيقات المستضافة
تكلفة البدءتحتاج إلى GPU متوافقة أو ذاكرة كافيةابدأ بشحن مسبق فقط، الحد الأدنى $20
عند انخفاض حجم الاستخدامإذا كنت تمتلك الأجهزة بالفعل، فتكلفة إضافية شبه معدومةالفاتورة تتناسب مع الاستخدام الفعلي، مما يقلل العبء
عند ارتفاع حجم الاستخدام بشكل كبيرقد يكون مفضلاً بسبب التكلفة الثابتةيزداد بما يتناسب مع سعر الرمز
طول السياقمحدود بذاكرة الفيديو والإعداداتتدعم هذه واجهة برمجة التطبيقات 100,000 رمز
اختيار النموذجيمكن استبداله بحريةنموذج يحدّه المزوّد (هنا نموذج واحد uncensored)
الخصوصيةلا تغادر البيانات جهازكتمر الطلبات عبر خوادم خارجية
الطلبات المتزامنةيعتمد على العتاد8 طلبات متزامنة و300 طلب في الدقيقة بناءً على المفتاح الرسمي
عبء الإدارةيتطلب التثبيت والتحديثتعيين مفتاح API وBase URL فقط

من الصعب القول إن أحدهما يفوز دائمًا في الجدول. إذا كانت حماية البيانات الشخصية هي الأولوية وتملك العتاد، فالنموذج المحلي أفضل. أما إذا لم يكن لديك العتاد أو تحتاج إلى استدعاء واجهة برمجة التطبيقات من عدة تطبيقات في وقت واحد، فإن واجهة برمجة التطبيقات أسهل.

الحالات التي يكون فيها النموذج المحلي أنسب

  • عند الحاجة إلى الاستخدام في بيئة غير متصلة. لا توجد خيارات أخرى في الطائرات أو الأماكن التي يتم فيها حظر الشبكة الخارجية.
  • عندما يكون خروج سجل المحادثات من الجهاز أمرًا مستحيلًا تمامًا. لا تضمن سياسة أي مزود تخزين البيانات على جهازك بنفس الدرجة من اليقين.
  • عندما يكون الهدف هو تجربة نماذج مختلفة.
  • عندما يكون لديك جهاز كمبيوتر يحتوي على ذاكرة VRAM كافية وتكون كمية الطلبات عالية باستمرار.

على العكس، هناك ثلاثة أسباب شائعة للتخلي عن البدء بالنموذج المحلي: الحاجة إلى تقليل طول السياق بسبب نقص الذاكرة، وبطء سرعة التوليد، وانسداد الخدمة عند استدعاء واجهة برمجة التطبيقات من عدة تطبيقات في وقت واحد. إذا واجهت أيًا من هذه المشكلات، فإن واجهة برمجة التطبيقات هي بديل واقعي.

الحالات التي يكون فيها API المستضاف أنسب

يتوافق API الخاص بهذا الموقع مع تنسيق OpenAI، مما يسمح بإضافة نقاط النهاية المتوافقة مع OpenAI في أدوات مثل SillyTavern أو في التطبيقات التي تم تطويرها يدويًا بمجرد إدخال Base URL والمفتاح. يتوفر نموذج واحد وهو uncensored، وتبلغ نافذة السياق 100,000 رمز (token) عند جمع الموجّه والمخرجات. يدعم البث المتدفق، واستدعاء الدوال، ووضع JSON.

مفيد بشكل خاص في الحالات التالية:

  • عند عدم وجود بطاقة GPU أو عند التطوير باستخدام جهاز محمول.
  • عندما تحتاج إلى إنشاء خدمة روبوت أو تطبيق لمعالجة طلبات مستخدمين متعددين في وقت واحد. يُسمح باستخدام المفتاح الرسمي بحد أقصى 8 طلبات متزامنة.
  • عند إجراء مهام تتطلب نافذة سياق كبيرة، مثل المحادثات الطويلة أو المستندات الطويلة.
  • عندما يكون الاستخدام الشهري غير منتظم، مما يجعل من الصعب تحمل التكاليف الثابتة.

هذا API هو خدمة نموذج واحد يديرها طرف مستقل، وليس API رسمياً من شركة أخرى. إذا كنت تتوقع خدمة تتيح لك اختيار النموذج، فهذا لن يناسبك. لا تُستخدم الموجّهات في تدريب النموذج، لكن حقيقة مرور الطلب عبر الخادم تظل قائمة، لذا إذا كنت تتعامل مع محتوى حساس، اقرأ سياسة الخصوصية أولاً.

طريقة المقارنة المباشرة بدون الاعتماد على المعايير

غالباً ما لا تتطابق جداول التقييم التي أنشأها الآخرون مع احتياجاتك. يمكنك إجراء المقارنة المباشرة بنفسك في 30 دقيقة عبر الخطوات التالية.

  1. اختر 10 موجّهات ستستخدمها فعليًا. أضف نظام الموجّه وإعدادات الشخصية التي تستخدمها عادةً كما هي.
  2. أرسل نفس الموجّه إلى النموذج المحلي وAPI. اضبط الإعدادات مثل temperature لتكون متطابقة.
  3. يتم قراءة الإجابات مع إخفاء الأسماء وتقييمها. يتم النظر في الأسلوب، والحفاظ على الإعدادات، وامتثال التعليمات، ومدى تكرار الكلام.
  4. لا تنه الأمر دفعة واحدة، بل شغّل كل موجّه 3 مرات لرصد التباين.

يمكنك اختبار جانب API بكفاءة باستخدام رصيد تجريبي مجاني بقيمة $0.50. يمكنك الحصول عليه بعد تسجيل الدخول من صفحة مفتاح API، وهو متاح لمرة واحدة لكل مستخدم، لمدة صلاحية 7 أيام، دون الحاجة إلى معلومات الدفع. فيما يلي الحد الأدنى من الكود لإرسال الموجّه إلى API.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.mugeomyeolapi.com/v1", api_key=os.environ["MUGEOMYEOL_API_KEY"])

prompts = ["내 프롬프트 1", "내 프롬프트 2"]  # 실제 쓸 프롬프트로 교체
for p in prompts:
    for run in range(3):
        r = client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": p}],
            temperature=0.8,
        )
        print(f"[{p[:10]} / {run + 1}회]", r.choices[0].message.content[:200])

الطريقة الهجينة وقائمة التحقق النهائية

لا داعي لاختيار أحدهما فقط. كثير من المستخدمين يوزعون الاستخدام بحيث تُكتب المسودات الحساسة محلياً، بينما تُرسل المهام التي تتطلب نافذة سياق طويلة أو طلبات متزامنة عبر API. بما أن التنسيق متوافق مع OpenAI، يمكنك الانتقال بين الجانبين بنفس الكود بتغيير Base URL فقط، مما يقلل تكلفة التحويل.

تحقق من النقاط التالية قبل اتخاذ القرار.

  • هل يمكن لجهازك استيعاب طول السياق المطلوب باستخدام VRAM الخاص به.
  • ما حجم الاستدعاءات الشهرية؟ إذا كنت تستخدم واجهة برمجة التطبيقات، يمكنك الحساب مسبقًا باستخدام الأسعار في صفحة الأسعار. السعر $0.15 لكل مليون رمز في المدخلات، و$0.50 لكل مليون رمز في المخرجات.
  • هل يُسمح بمرور الموجّه عبر خوادم خارجية؟
  • كم عدد الطلبات التي يجب معالجتها في وقت واحد؟

طريقة الإعداد مُوضحة في وثائق API. يمكن أن يكون شحن الرصيد من $20 إلى $500، وطرق الدفع هي USDT(TRC20) وUSDC(Base).

المزيد من الأدلة

الأسئلة الشائعة

أيهما أفضل للـ LLM بدون رقابة: المحلي أم API؟

الإجابة تعتمد على الاستخدام. إذا كنت تحتاج إلى الاستخدام دون اتصال أو تحكم كامل ولديك المعدات، فالخيار المحلي هو الأنسب. أما إذا كنت تريد الاستخدام فوراً بدون معدات أو تحتاج إلى طلبات متزامنة، فإن API هو الخيار الصحيح.

هل يمكنني اختيار نموذج في هذا API؟

لا. النموذج الوحيد هو uncensored. إذا كنت بحاجة إلى خدمة تتيح اختيار عدة نماذج، فقد لا يناسبك هذا الخيار.

هل يمكنني استخدام المحلي وAPI معاً؟

نعم، هذا ممكن. إذا كانت الأدوات تستخدم التنسيق المتوافق مع OpenAI، يمكنك التبديل بنفس الكود بتغيير Base URL والمفتاح فقط.

هل يدعم إنشاء الصور أيضاً؟

هذا API مخصص للنصوص فقط. لا يدعم إنشاء الصور أو الصوت أو الفيديو، ولا يدعم التضمين (Embeddings) أو الضبط الدقيق (Fine-tuning).

مفتاح API متاح بمجرد التسجيل

إنشاء الحساب، نسخ المفتاح، تغيير Base URL. انتهت الإعدادات بذلك.

احصل على مفتاح API
احصل على مفتاح API