Ollama

ما هو Ollama؟

أمر طرفية (terminal) واحد في Ollama يقوم بتنزيل وتشغيل النماذج اللغوية الكبيرة مفتوحة الأوزان مباشرة على أجهزة الكمبيوتر المحلية. يعمل البرنامج كمشغل نماذج لغوية كبيرة (LLM) محلي وخادم لنماذج الذكاء الاصطناعي. تتيح هذه الأداة، التي طورتها Ollama، للمستخدمين تنفيذ عمليات الاستدلال الخاصة دون اتصال بالإنترنت. الجانب الآخر: يتجاوز التطبيق الخوادم السحابية تماماً.

تم تطوير Ollama خصيصاً لمهندسي البرمجيات وباحثي الذكاء الاصطناعي، وهو يلغي الحاجة إلى واجهات برمجة التطبيقات (APIs) السحابية المدفوعة. يتعامل مع تقديم النماذج المحلية لنقاط النهاية (endpoints) التي تحاكي هياكل OpenAI القياسية. النتيجة: يمكن للمستخدمين توجيه تطبيقاتهم الحالية إلى عنوان مضيف محلي. يتطلب الأمر الإلمام بعمليات سطر الأوامر.

الميزات الرئيسية وكيف يعمل Ollama

تنفيذ النماذج محلياً

• السحب عبر الطرفية أولاً: يكتب المستخدمون أمراً واحداً لتنزيل النماذج على الفور. هذا يلغي متطلبات إدارة الملفات اليدوية.
• تكميم الأجهزة (Hardware Quantization): يدعم البرنامج تنسيقات النماذج المضغوطة. يتيح ذلك تشغيل نموذج بـ 70B معلمة على وحدات معالجة الرسومات (GPUs) الاستهلاكية القياسية.

تكامل واجهة برمجة التطبيقات (API) والخادم

• واجهة برمجة تطبيقات متوافقة مع OpenAI: يقوم الخادم تلقائياً بتنسيق الاستجابات لتتطابق مع معايير واجهة برمجة التطبيقات (API) الخارجية. يمكن للمطورين استبدال المفاتيح السحابية بعناوين محلية دون إعادة كتابة التعليمات البرمجية.
• معالجة الطلبات المتزامنة: يعالج الخادم مطالبات (prompts) متعددة في وقت واحد. تظهر المعايير أنه يعالج هذه الطلبات أسرع بنسبة 10 إلى 20 بالمائة من الخوادم المحلية المنافسة.

التكيف مع الأجهزة

• دعم عبر الأنظمة الأساسية: يعمل التطبيق بشكل أصلي على أنظمة macOS و Windows و Linux. ويستفيد من تسريع الأجهزة الخاص بكل نظام تشغيل.
• الاعتماد على وحدة المعالجة المركزية (CPU Fallback): يمكن للأنظمة التي لا تحتوي على وحدات معالجة رسومات (GPUs) مخصصة الاستمرار في تنفيذ النماذج باستخدام المعالج الرئيسي. تنخفض سرعات الاستدلال بشكل كبير على وحدات المعالجة المركزية للنماذج الضخمة.

إيجابيات وسلبيات Ollama

نقاط القوة

• سرعة استدلال عالية: يعالج التطبيق طلبات النماذج المتزامنة أسرع بنسبة 10 إلى 20 بالمائة من LM Studio بناءً على المعايير الحديثة.
• تكلفة مالية صفرية: التنفيذ المحلي الكامل يلغي جميع رسوم واجهة برمجة التطبيقات (API). يوفر المستخدمون بكثافة ما يقدر بـ $390 إلى $690 شهرياً مقارنة بالحزم السحابية القياسية.
• خصوصية بيانات كاملة: تظل جميع المطالبات النصية والمخرجات على الجهاز المحلي. لا ينفذ المطور أي تتبع سحابي أو قياس عن بعد خارجي.
• إعداد فوري لواجهة برمجة التطبيقات (API): يؤدي تشغيل النموذج تلقائياً إلى إنشاء نقطة نهاية (endpoint) محلية نشطة لواجهة برمجة التطبيقات. هذا لا يتطلب أي تكوين شبكة تقني.

القيود

• افتقار لواجهة رسومية: يعمل التطبيق الأساسي بالكامل داخل الطرفية (terminal). يجب على غير المطورين تثبيت واجهات أمامية لجهات خارجية للحصول على نافذة دردشة عادية.
• ضبط الأجهزة يدوياً: حيث يقصر: يجب على المستخدمين تكوين تخصيص ذاكرة وحدة معالجة الرسومات (GPU) يدوياً لبعض النماذج الثقيلة.
• متطلبات أجهزة عالية: يتطلب تشغيل النماذج الكبيرة مثل Llama 3.1 70B ذاكرة وصول عشوائي للفيديو (VRAM) كبيرة. يؤدي استخدام التنفيذ عبر وحدة المعالجة المركزية (CPU) فقط لهذه النماذج إلى أوقات استجابة بطيئة للغاية.

من يجب عليه استخدام Ollama؟

• المطورون المهتمون بالخصوصية: يحتفظ المهندسون الذين يتعاملون مع بيانات المستخدمين الحساسة بجميع المعلومات محلياً. ويتجنبون إرسال التعليمات البرمجية الخاصة إلى خوادم خارجية.
• الباحثون المقيدون بالميزانية: تتجنب الفرق الأكاديمية التي تختبر النماذج مفتوحة الأوزان فواتير واجهة برمجة التطبيقات (API) المرتفعة. يمكنهم تشغيل آلاف الاستعلامات مجاناً.
• الكتاب غير التقنيين: سيعاني هذا النوع من المستخدمين هنا. يجب عليهم تجنب هذه الأداة لأنها تفتقر إلى واجهة دردشة رسومية مدمجة جاهزة للاستخدام.

تسعير وخطط Ollama

يوفر المطور Ollama كتطبيق برمجي مجاني تماماً. لا توجد مستويات مدفوعة. يدفع المستخدمون $0 مقابل طلبات استدلال غير محدودة، وتنزيلات النماذج، وخدمة واجهة برمجة التطبيقات (API). التكلفة الوحيدة تأتي من الأجهزة المادية المطلوبة لتشغيل النماذج.

على عكس الأدوات ذات التجارب المجانية المقيدة، يتضمن هذا التطبيق كل ميزة دون أي تكلفة. يمكنك تقديم طلبات متزامنة غير محدودة وتنزيل آلاف النماذج المفتوحة. لا تتتبع المنصة الاستخدام أو تفرض أي حدود للسرعة. يحتفظ المستخدمون بالبرنامج دون اتصال بالإنترنت تماماً بعد التنزيل الأولي.

كيف يقارن Ollama بالبدائل

يوفر LM Studio واجهة مرئية للغاية لتشغيل النماذج محلياً. يتغير ذلك عند النظر إلى كفاءة الخادم في الخلفية. يقدم LM Studio اكتشافاً تلقائياً لوحدة معالجة الرسومات (GPU) وواجهة دردشة متكاملة، مما يجعله أفضل للمستخدمين العاديين. ومع ذلك، يعالج Ollama طلبات واجهة برمجة التطبيقات (API) المتزامنة بشكل أسرع ويعمل بالكامل من سطر الأوامر، مما يجعله أفضل لسير العمل الآلي.

يركز GPT4All بشكل كبير على تشغيل النماذج على وحدات المعالجة المركزية (CPUs) الأساسية لأجهزة الكمبيوتر المحمولة دون الحاجة إلى بطاقات رسومات مخصصة. الجدير بالذكر: يتضمن GPT4All برامج تثبيت أصلية مع نوافذ دردشة مدمجة لسطح المكتب. بينما يركز Ollama على العمل كخادم خلفي للمطورين. يلبي GPT4All احتياجات المستخدمين العاديين الذين يريدون مساعداً خاصاً على سطح المكتب، بينما يخدم Ollama المهندسين الذين يبنون تطبيقات الذكاء الاصطناعي.

الخيار الصحيح للمهندسين الذين يبنون ذكاءً اصطناعياً خاصاً

يقدم Ollama قيمة استثنائية لمطوري البرمجيات الذين يحتاجون إلى نقطة نهاية (endpoint) محلية لواجهة برمجة التطبيقات (API) دون تكاليف متكررة. تعمل الأداة كخدمة خلفية موثوقة تتعامل مع الطلبات المتزامنة بكفاءة. الافتقار إلى واجهة رسومية يجعله محبطاً للمستخدمين العاديين الذين يريدون روبوت دردشة بسيط. يجب على هؤلاء المستخدمين العاديين تنزيل LM Studio بدلاً من ذلك. بالنسبة للمطورين الذين يختبرون نماذج مثل GLM-4.7 أو Llama 3.1، يوفر Ollama التحكم الدقيق والمباشر المطلوب في الأجهزة.