AR ▾
تكلفة claudeapicost.com

واجهة LLM بدون رقابة بأسعار شفافة

https://api.claudeapicost.com/v1

claudeapicost.comاحصل على مفتاح API

أفضل نموذج LLM محلي للعب الأدوار مقابل واجهة برمجة التطبيقات السحابية

أفضل نموذج LLM محلي للعب الأدوار هو أكبر نموذج مُضبط للعب الأدوار الذي يمكن لبطاقة الرسوميات (GPU) تشغيله بطول سياق قابل للاستخدام. إذا كان ذلك يعني نماذج صغيرة أو ذاكرة قصيرة، فقد تكون واجهة برمجة التطبيقات السحابية خياراً أفضل لك.

تم التحديث

حاسوب GPU محلي وسحابة متوهجة مربوطين بشريط من فقاعات الدردشة، لمقارنة نماذج LLM للأدوار المحلية والسحابية

نقاط رئيسية

ما الذي يحدد أفضل نموذج محلي للعب الأدوار

الأشخاص الذين يبحثون عن أفضل نموذج LLM محلي للعب الأدوار عادةً ما يريدون اسماً. الأسماء تتقادم خلال أسابيع، لذا استخدم معايير تظل ثابتة.

  • عدد المعاملات. النماذج الأكبر تحافظ على صوت الشخصية وتتابع خيوط القصة بشكل أفضل. النماذج الصغيرة تميل إلى التكرار ونسيان التفاصيل.
  • التكميم. البناء بـ 4 أو 5 بت يقلل استخدام الذاكرة بشكل كبير مع خسارة معتدلة في الجودة. أقل من 4 بت، يصبح الانخفاض ملحوظاً أكثر في المشاهد الطويلة.
  • طول السياق. لعب الأدوار عبارة عن محادثة طويلة. يتعيّن على النموذج الاحتفاظ ببطاقة الشخصية وملاحظات العالم والمحادثات الأخيرة في آنٍ واحد.
  • التدريب الدقيق. النماذج المدربة على الخيال والحوار تكتب نثراً أفضل من المساعدين العامين، وكثير من التدريب الدقيق المحلي مدرب على تخطي الرفض للخيال القانوني الموجّه للبالغين.
  • السرعة. الرد الذي يصل بسرعة القراءة يبدو وكأنه محادثة. الرد الذي يتحرك ببطء يكسر التدفق.

للاختيارات الحالية، اقرأ أحدث مواضيع المجتمع ولوحات المتصدرين للأداة التي تستخدمها، مثل Ollama أو LM Studio أو KoboldCpp. تحقق من التواريخ، لأن المفضل في الربع الماضي غالباً ما استُبدل بالفعل.

أين تصطدم النماذج المحلية بحائط

الحد ليس ملف النموذج في الغالب. إنه الذاكرة. تحتاج الأوزان إلى VRAM أو RAM سريع للنظام، وتنمو ذاكرة التخزين المؤقت للسياق فوق ذلك مع كل رمز من السجل. تشغيل نموذج يتسع لـ 4,000 رمز من السياق أمر سهل؛ الحفاظ على 30,000 رمز من القصة في الذاكرة بسرعة معقولة يتطلب أكثر بكثير.

لذلك تتنازل معظم إعدادات لعب الأدوار المحلية عن واحد من ثلاثة أشياء:

  1. نموذج أصغر، الذي يكتب شخصيات أكثر تسطحاً.
  2. نافذة سياق قصيرة، مما يجعل الشخصية تنسى المشاهد السابقة.
  3. تحميل الطبقات إلى وحدة المعالجة المركزية، مما يجعل الردود بطيئة.

لا يجعل أي من هذا الخيار المحلي خياراً سيئاً. إذا كنت تمتلك بالفعل GPU قوي، فقد تكون هذه المقايضة مناسبة لك. هذا يعني أن الإجابة الصادقة على "أي نموذج محلي" تعتمد على عتادك أولاً والنموذج ثانياً.

ما الذي يغيره الـ API السحابي

ينقل الـ API المستضاف مشكلة الذاكرة إلى شخص آخر. تكشف هذه الخدمة عن نموذج واحد مفتوح الأوزان مع نافذة سياق من 100,000 رمز (الموجّه والإكمال معاً)، لذا فإن قصة طويلة، وبطاقة شخصية مفصلة، ومدخلات lorebook تتسع دون تقليم. لا يوجد تنزيل، ولا خيار تكميم، ولا مشكلة في برامج التشغيل.

هو أيضًا متوافق مع OpenAI. أي واجهة أمامية يمكنها التحدث مع نقطة نهاية على طراز OpenAI تعمل: اضبط الـ Base URL إلى https://api.claudeapicost.com/v1، استخدم مفتاحك، واضبط النموذج إلى uncensored. النموذج مضبوط للإجابة دون رفض المحتوى للاستخدام القانوني للبالغين. القاعدة الصارمة هي عدم وجود محتوى جنسي يتضمن القاصرين.

المفاضلات واضحة. موجّهاتك تغادر جهازك. الخدمة تقتصر على النصوص. تعتمد على اتصال بالشبكة. لا تُستخدم الموجّهات في التدريب، وتحتوي صفحة الخصوصية على التفاصيل، لكن النموذج المحلي يظل التكوين الوحيد الذي لا يغادر فيه شيء جهازك أبداً.

التكلفة: عتادك مقابل الدفع لكل رمز

الاستدلال المحلي يبدو مجانيًا لأن التكلفة تُدفع مقدمًا في العتاد والكهرباء. تكلفة السحابة صغيرة لكل رسالة وواضحة. إليك الحسابات لهذه API، بسعر $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مخرج.

خذ دورًا في لعب الأدوار حيث يرسل التطبيق 6,000 رمز من السجل ويحصل على رد مكون من 300 رمز:

  • الإدخال: 6,000 / 1,000,000 × $0.15 = $0.0009
  • المخرجات: 300 / 1,000,000 × $0.50 = $0.00015
  • المجموع لكل دور: $0.00105
الاستخدامالأدوارالتكلفة
شهر خفيف1,000 دور بـ 6,000 مدخل / 300 مخرج$1.05
شهر ثقيل10,000 دور بـ 6,000 مدخل / 300 مخرج$10.50
شهر ثقيل، ذاكرة طويلة10,000 دور بـ 20,000 مدخل / 300 مخرج$31.50

يُحسب صف الذاكرة الطويلة كالتالي: 20,000 رمز × $0.15 لكل مليون = $0.003 مدخل زائد $0.00015 مخرج، أي $0.00315 لكل دور و$31.50 لـ 10,000 دور. المدخل يهيمن على التكلفة في المحادثات الطويلة، ولهذا فإن تلخيص المشاهد القديمة يوفر أموالًا حقيقية.

تبدأ عمليات شحن الرصيد من $20، مع مكافأة بنسبة +5% من $50، و+10% من $100، و+15% من $200، ولا ينتهي الرصيد. يقبل هذا الموقع الدفع عبر الكريبتو فقط (USDT على TRC20 أو USDC على Base). يُرجى الاطلاع على صفحة الأسعار للتفاصيل، ومقال خرافات وحقائق التسعير لمعرفة كيفية عمل الفواتير حسب الرمز في الممارسة العملية.

كيفية اتخاذ القرار

استخدم قائمة التحقق هذه.

ابق محليًا إذا

  • لديك بالفعل بطاقة رسومات (GPU) بذاكرة كافية وتستمتع بضبط الإعدادات.
  • لا يجوز لأي سبب كان أن يغادر شيء جهازك.
  • جلساتك قصيرة ونمط النموذج الصغير يناسبك.
  • تريد التشغيل دون اتصال.

استخدم API سحابي إذا

  • يجبرك عتادك على قصر نافذة السياق أو بطء الردود.
  • تلعب حملات طويلة حيث يهم الاستمرارية.
  • تشغّل تطبيقاً مرافقاً أو تطبيق خيال للبالغين الآخرين وتحتاج إلى العديد من المحادثات المتزامنة. المفتاح الكامل يسمح بـ 8 طلبات متزامنة و300 طلب في الدقيقة.
  • تريد تجربة نموذج بدون إعداد. يمكن للمستخدمين الجدد الحصول على رصيد تجريبي بقيمة $0.50 بنقرة واحدة، صالح لمدة 7 أيام، بدون حاجة لبطاقة ائتمان.

إذا كنت تنتمي إلى القائمتين، فادمجهما. احتفظ بنموذج محلي للجلسات الخاصة واستخدم الـ API للجلسات الطويلة.

إعداد هجين في بضع أسطر

نظرًا لأن خوادم Ollama وLM Studio وllama.cpp تعرض جميعها نقاط نهاية على نمط OpenAI، فإن كود العميل لا يحتاج إلى الاهتمام بما هو موجود خلفها. يحوّل مقتطف Python هذا الإعداد عبر متغير بيئة واحد:

import os
from openai import OpenAI

if os.getenv("USE_CLOUD") == "1":
    client = OpenAI(
        base_url="https://api.claudeapicost.com/v1",
        api_key=os.environ["API_KEY"],
    )
    model = "uncensored"
else:
    client = OpenAI(base_url="http://localhost:11434/v1", api_key="local")
    model = "your-local-model"

reply = client.chat.completions.create(
    model=model,
    messages=[
        {"role": "system", "content": "You are Mira, a dry-witted ship engineer in a sci-fi story."},
        {"role": "user", "content": "The reactor is humming wrong again."},
    ],
    temperature=0.9,
    stream=True,
)
for chunk in reply:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

عنوان URL المحلي أعلاه هو المنفذ الافتراضي لـ Ollama؛ غيّره إذا كنت تستخدم خادمًا آخر. بالنسبة للجزء السحابي، تغطي التوثيق البث المتدفق، وضع JSON، واستدعاء الدوال، بينما صفحة المفتاح هي المكان الذي يمكنك فيه التسجيل باستخدام Google أو عبر البريد الإلكتروني وكلمة المرور.

الإعدادات المؤثرة لكلا المسارين

يعتمد كتابة الشخصيات الجيدة أكثر على هيكل الموجّه منه على المحرك. تساعد بعض العادات في كل من النماذج المحلية والسحابية:

  • ضع صوت الشخصية وأهدافها وعاداتها اللغوية في رسالة النظام، واجعلها مختصرة.
  • استخدم temperature حول 0.8 إلى 1.0 للحوار الحيوي وخفضه إذا بدأت الشخصية في التحدث كثيرًا. تمرر الـ API temperature، top_p، stop، seed والعقوبات.
  • عيّن عقوبة التكرار أو الوجود إذا كانت الردود تكرر العبارات.
  • قم بتلخيص المشاهد القديمة بين الحين والآخر بدلاً من إرسال السجل الكامل. هذا أرخص في السحابة وأسرع محليًا.

البدء في عشر دقائق

إذا بدا حساب التكلفة مقبولاً، فإن التجربة المجانية لا تكلف شيئًا. سجّل في صفحة المفاتيح، واحصل على رصيد تجريبي بقيمة $0.50 بنقرة واحدة (واحد لكل شخص، صالح لمدة 7 أيام)، الصق عنوان URL الأساسي والمفتاح في واجهة المستخدم الخاصة بلعب الأدوار، واضبط النموذج على uncensored. بتكلفة حوالي $0.00105 لكل دور في المثال السابق، يغطي $0.50 حوالي 476 دورًا، لأن 0.50 / 0.00105 = 476.19.

مفتاح التجربة محدود بطلبين متزامنين و60 طلبًا في الدقيقة، وهو ما يكفي لشخص واحد للدردشة. شغّل نفس المشهد الذي تستخدمه لتقييم النماذج المحلية، وقارن ثبات الصوت، وذاكرة التفاصيل السابقة، وسرعة الرد في بطاقات الشخصيات الخاصة بك. هذا الاختبار أكثر فائدة من أي معيار، لأن جودة لعب الأدوار مسألة ذوق.

خذ قاعدة القاصرين في الاعتبار لأي خيال تكتبه: محتوى جنسي يتضمن قاصرين غير مسموح به مطلقًا، بأي صيغة كانت.

أسئلة وأجوبة

هل النموذج المحلي أفضل من API السحابي للعب الأدوار؟

يعتمد ذلك على عتادك وأولوياتك. يوفر المحلي الخصوصية ولا توجد رسوم لكل رسالة، بينما يوفر API السحابي نافذة سياق طويلة وبدون إعداد. يستخدم الكثيرون الاثنين.

كم من السياق أحتاج للعب الأدوار الطويل؟

بطاقات الشخصيات وملاحظات العالم والأدوار الأخيرة غالبًا ما تضيف آلاف الرموز، ويمكن أن تتجاوز الحملات الطويلة 20,000 رمز. تقدم هذه الـ API 100,000 رمز من السياق، للموجه والإكمال.

هل يمكنني استخدام SillyTavern أو واجهات مستخدم مشابهة مع الـ API؟

نعم، أي واجهة مستخدم تقبل نقطة نهاية متوافقة مع OpenAI تعمل. استخدم عنوان URL الأساسي، ومفتاحك، ومعرف النموذج uncensored.

هل يسمح الـ API بجميع المحتويات؟

تم ضبط النموذج للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. محتوى جنسي يتضمن قاصرين غير مسموح به مطلقًا.

كيف يمكنني الدفع إذا أردت تجربة المسار السحابي؟

يقبل هذا الموقع الدفع بالعملات المشفرة فقط (USDT على TRC20، USDC على Base)، مع شحنات تبدأ من $20. تتوفر تجربة مجانية بنقرة واحدة بقيمة $0.50 بعد إنشاء الحساب.

مفتاحك على بُعد استمارة واحدة

أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.

احصل على مفتاح API