طول السياق هو الحد الأقصى لعدد الرموز (tokens) التي يمكن للنموذج الوصول إليها في الذاكرة.

ملاحظة

يستخدم Ollama بشكل افتراضي أطوال سياق محددة بناءً على ذاكرة الوصول العشوائي للفيديو (VRAM): - أقل من 24 GiB من VRAM: سياق 4k - 24-48 GiB من VRAM: سياق 32k - 48 GiB أو أكثر من VRAM: سياق 256k

يجب ضبط المهام التي تتطلب سياقًا كبيرًا مثل البحث على الويب، الوكلاء (agents)، وأدوات البرمجة على طول سياق لا يقل عن 64000 رمز (token).

ضبط طول السياق

سيؤدي ضبط طول سياق أكبر إلى زيادة كمية الذاكرة المطلوبة لتشغيل النموذج. تأكد من توفر كمية كافية من VRAM لديك لزيادة طول السياق.

يتم ضبط النماذج السحابية على أقصى طول سياق لها بشكل افتراضي.

التطبيق

قم بتغيير شريط التمرير في تطبيق Ollama ضمن الإعدادات إلى طول السياق المطلوب.

واجهة سطر الأوامر

إذا لم يكن من الممكن تعديل طول السياق لـ Ollama، يمكن تحديث طول السياق أيضًا عند تشغيل Ollama.

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

التحقق من طول السياق المخصص وإلغاء تحميل النموذج

لأفضل أداء، استخدم أقصى طول سياق للنموذج، وتجنب إلغاء تحميل النموذج إلى وحدة المعالجة المركزية (CPU). تحقق من التقسيم ضمن PROCESSOR باستخدام الأمر ollama ps.

ollama ps

NAME             ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:latest    c6eb396dbd59    9.6 GB    100% GPU     131072     2 minutes from now