ما النموذج المحلي؟

في الأقسام القادمة سنبني وكيلًا صغيرًا يعمل فعلًا. والوكيل يحتاج إلى نموذج يفكر له.

فمن أين نأتي بالنموذج؟ في هذا الدرس نختار الطريق، ونعرف ما Ollama، ونعرف ماذا نستطيع أن نفعل به.

نموذج سحابي ونموذج محلي

يمكن أن يعمل النموذج في مكانين:

• نموذج سحابي: يعمل على خوادم شركة، مثل Claude وGPT وGemini. ترسل إليه رسائلك عبر الإنترنت، وتدفع في العادة بحسب الاستخدام.
• نموذج محلي: يعمل على جهازك أنت. تقوم بتحميل ملفاته مرة واحدة، ثم يعمل دون إنترنت.

وسنبدأ في هذا المسار بنموذج محلي، لأسباب بسيطة:

• لا نحتاج إلى حساب أو مفتاح أو دفع.
• نرى كل ما يحدث على جهازنا.
• وحين يعمل الوكيل، نستطيع أن نبدّل النموذج بنموذج سحابي أقوى بتغيير ثلاثة أسطر فقط.

ما النموذج المفتوح؟

لا نستطيع أن نستخدم Claude أو GPT، لأن شركتيهما لا تنشران ملفاتهما. أما النموذج المفتوح فتنشر الشركة ملفاته، فتنزّلها وتشغّلها بنفسك.

ومن النماذج المفتوحة نموذج Qwen الذي سنستخدمه.

لكن «مفتوح» لا يعني «بلا شروط». لكل نموذج ترخيص يحدد ما يحق لنا فعله به. وهذا مثال حقيقي من Qwen2.5:

• النماذج كلها، عدا حجمي 3B و72B، منشورة بترخيص Apache 2.0، كما تقول صفحة Ollama.

فإن أردتَ أن تستخدم نموذجًا في عمل تجاري، فاقرأ ترخيصه أولًا.

ما Ollama؟

Ollama ليس نموذجًا. هو مشغّل للنماذج يعمل على جهازك. تصفه صفحته الرئيسة بأنه طريقة لبناء تطبيقات بالنماذج المفتوحة.

مثال بسيط: المشغّل الموسيقي ليس أغنية، والأغاني هي التي نضعها فيه. كذلك Ollama هو المشغّل، والنماذج هي الأغاني.

وهذه أربعة أشياء يفعلها Ollama:

1. يحمل النموذج إلى جهازك بأمر واحد.
2. يحمّله في الذاكرة حين تطلب منه شيئًا. وبعد خمس دقائق من آخر طلب يُخرجه من الذاكرة تلقائيًّا، كما تقول وثائقه.
3. يظل Ollama في الخلفية ينتظر الطلبات على port (باب) خاص في جهازك، رقمه 11434. وهذا port لا يُفتح إلا عند تشغيل ollama، فلا يستطيع جهاز آخر أن يرسل إليه شيئًا طالما لم تتغير الإعدادات الافتراضية.
4. يجيب على الطلبات التي تصله عبر هذا العنوان.

والنماذج التي يحملها تُحفظ في مجلد خاص على جهازك:

كيف نستخدم Ollama؟

ثلاث استخدامات، وآخرها هو ما نريده:

• أن تحاوره مباشرة في الطرفية: تكتب سؤالًا فيجيب.
• أن تبدّل النماذج: تنزّل نموذجًا آخر وتجرّبه بأمر واحد.
• أن يتصل به ملف Python: يرسل الملف إلى localhost:11434 قائمة رسائل، ويستلم الجواب. وهذا ما سيفعله وكيلنا.

أي نموذج أختار؟

لنموذج Qwen2.5 أحجام كثيرة، ولكل حجم رقم في اسمه، مثل 1.5b و3b. فما معنى هذا الرقم؟

ما معنى 1.5b و3b؟

الرقم يخبرك بحجم النموذج:

• الحرف b يعني Billion مليار.
• 3b تعني ثلاثة مليارات معامل.
• المعامل (الأوزان) رقم صغير داخل النموذج، ضُبط أثناء التدريب.

تخيّل لوحة خلّاط صوت فيها مقابض كثيرة جدًّا. كل مقبض ضُبط على وضع معين أثناء التدريب. والنموذج كله هو مجموع هذه المقابض: 3b يعني ثلاثة مليارات مقبض.

من يضبط المقابض؟

لا أحد يضبطها بيده. التدريب هو الذي يضبطها تلقائيًّا:

1. البداية: المقابض على أوضاع عشوائية، فيكتب النموذج كلامًا بلا معنى.
2. القراءة: يقرأ النموذج جزءًا من نص، ويحاول أن يخمّن الكلمة التالية.
3. المقارنة: نقارن تخمينه بالكلمة الحقيقية.
4. التعديل: يتحرك كل مقبض حركة صغيرة في الاتجاه الذي يجعل التخمين أفضل.
5. التكرار: يحدث هذا عددًا هائلًا من المرات على كمية ضخمة من النصوص.

وبعد أن ينتهي التدريب تثبت المقابض، ولا يغيّرها استخدامك للنموذج.

وكلما زاد الرقم:

• زاد حجم الملف الذي تنزّله.
• زادت الذاكرة التي يحتاجها النموذج.
• وصار النموذج في العادة أقوى.

فـ 0.5b أصغر النماذج وأخفها، و72b ضخم جدًّا، وملفه نحو 47 غيغابايت، فلا يعمل إلا على أجهزة قوية.

هذه أحجام الملفات كما تعرضها صفحة Ollama:

اخترتُ لهذا المسار qwen2.5:0.5b، وهو أصغر أحجام Qwen2.5:

• حجمه نحو 398 ميغابايت، فهو الأنسب للأجهزة قليلة الموارد.
• ترخيصه Apache 2.0.
• يشغّل جهازك بحمل أخف من الأحجام الأكبر.

وهو نموذج صغير، سيخطئ أحيانًا. وهذا مفيد بالنسبة لنا، لأننا سنرى لماذا يخطئ الوكيل وكيف نصلحه.

المصادر:

• Ollama
• أسئلة Ollama الشائعة
• صفحة Qwen2.5 في مكتبة Ollama
• Qwen2.5-3B على Hugging Face
• Qwen2.5-1.5B على Hugging Face

في الدرس القادم: تثبيت Ollama.