OLMo

OLMo هي عائلة من النماذج اللغوية المفتوحة التي طورتها Allen Institute for AI (AI2)، وهي منظمة بحثية غير ربحية مقرها سياتل. في حين تكتفي معظم النماذج اللغوية الكبيرة (LLMs) "المفتوحة" بتوفير الأوزان فقط، تذهب OLMo إلى أبعد من ذلك: يتضمن كل إصدار مجموعة بيانات التدريب المسبق Dolma بالكامل، وأكواد التدريب، ومجموعات التقييم، وحالات المُحسِّن (optimizer states)، ونقاط الحفظ المرحلية في كل مرحلة من مراحل التدريب. تُطرح جميع المكونات بموجب ترخيص Apache 2.0، مما يعني عدم وجود قيود على الاستخدام، أو حواجز تجارية، أو غموض حول ما تعلمه النموذج أو من أين تعلمه. تشمل العائلة نماذج كثيفة (dense) بأحجام 1B و 7B و 13B و 32B، بالإضافة إلى OLMoE، وهو متغير متناثر يعتمد على مزيج الخبراء (MoE) بمليار معلمة نشطة من إجمالي 7 مليارات. تستخدم مرحلة ما بعد التدريب مسار Tulu، مما يمنح متغيرات التعليمات (instruct) قدرات تنافسية في اتباع التعليمات والمواءمة باستخدام التعلم المعزز من الملاحظات البشرية (RLHF).

أُطلق الجيل الحالي، OLMo 2، في نوفمبر 2024 بنماذج 7B و 13B التي تفوقت على Llama 3.1 8B في المعايير الأكاديمية. أصبح نموذج OLMo 2 32B، الذي صدر في مارس 2025، أول نموذج مفتوح بالكامل يتفوق على GPT-3.5 Turbo و GPT-4o mini في مجموعة من التقييمات متعددة المهارات. كما أصدرت AI2 أداة OLMoTrace في أبريل 2025، وهي أداة تتتبع أي مخرجات للنموذج وصولاً إلى مستندات التدريب المحددة التي يُحتمل أنها ساهمت فيها، باستخدام فهرسة infini-gram عبر 4.6 تريليون رمز (token). هذا المستوى من قابلية التتبع فريد من نوعه في مشهد النماذج اللغوية الكبيرة، وجعل من OLMo المنصة البحثية المعتمدة لمدققي سلامة الذكاء الاصطناعي، وباحثي التحيز، وأي شخص يحتاج إلى الإجابة على سؤال "من أين تعلم النموذج هذا؟"

نظرة سريعة على OLMo، أبريل 2026

تغطي عائلة OLMo ثلاثة خطوط إنتاج. تستخدم النماذج الكثيفة الأساسية (7B و 13B و 32B) بنية محول (transformer) مع تضمينات دوارة (rotary embeddings) وتُدرب على مجموعة بيانات Dolma، وهي مجموعة بيانات متعددة المصادر تُستمد من نصوص الويب، والأكواد، والكتب، والأوراق العلمية، والمحتوى الموسوعي. تُدرب نماذج OLMo 2 على مرحلتين: المرحلة الأولى على OLMo-Mix-1124 (حوالي 3.9 تريليون رمز من DCLM و Dolma و Starcoder و Proof Pile II)، والمرحلة الثانية على Dolmino-Mix-1124 (843 مليار رمز من محتوى الويب عالي الجودة والمحتوى المتخصص). OLMoE هو متغير MoE المتناثر: مليار معلمة نشطة لكل تمريرة أمامية (forward pass) من إجمالي 7 مليارات، مُدرب على 5 تريليونات رمز، ويُدرب أسرع بمرتين تقريباً لكل وحدة حوسبة مقارنة بنموذج كثيف مماثل. يُنتج مسار ما بعد التدريب Tulu (SFT و DPO و PPO) متغيرات Instruct- لكل حجم. تبلغ نوافذ السياق 4,096 رمزاً لنماذج OLMo 2 7B و 13B، وتم توسيعها في الإصدارات اللاحقة. تستهدف جميع النماذج اللغة الإنجليزية؛ ولا يزال الدعم متعدد اللغات محدوداً. تُستضاف النماذج على حساب مؤسسة allenai في Hugging Face وتُحمل أصلياً عبر HuggingFace Transformers و vLLM و Ollama.

بماذا يتميز OLMo حقاً

تكمن نقطة القوة الأساسية لـ OLMo ليس في جودة التوليد الخام، بل في قابلية إعادة الإنتاج والتدقيق. لا توجد عائلة نماذج لغوية كبيرة (LLM) رئيسية أخرى تتيح لك إعادة تشغيل التدريب من نقطة حفظ، وفحص كل مصدر بيانات، وتتبع المخرجات وصولاً إلى المستند الذي جاءت منه. هذا يجعل OLMo مناسباً بشكل فريد لأبحاث التعلم الآلي الأكاديمية: دراسة كيف يغير مزيج بيانات التدريب المختلفة سلوك النموذج، وتحديد مصادر التحيز، ومقارنة تقنيات المواءمة مقابل أساس متحكم به، ونشر النتائج التي يمكن للآخرين إعادة إنتاجها.

فيما يتعلق بجودة التوليد، تُعد نماذج OLMo 2 7B و 13B تنافسية مع النماذج الرائدة مفتوحة الأوزان بنفس الحجم. يسجل OLMo 2 7B حوالي 63.7 في MMLU، و 83.8 في HellaSwag، و 79.8 في ARC-Challenge، و 67.5 في GSM8K، متفوقاً على Llama 3.1 8B في هذه المعايير. تجاوز OLMo 2 32B عتبة مهمة في مارس 2025، متفوقاً على GPT-3.5 Turbo و GPT-4o mini في مجموعة من المعايير الأكاديمية متعددة المهارات، محققاً ذلك بتكلفة حوسبة تدريب تبلغ تقريباً ثلث تكلفة Qwen 2.5 32B. يُعد ترخيص Apache 2.0 ميزة ملموسة للفرق التجارية التي لا يمكنها العمل بموجب ترخيص المجتمع الخاص بـ Meta (والذي يقيد الخدمات التي تضم أكثر من 700 مليون مستخدم نشط شهرياً).

"إن دراسة النماذج اللغوية الكبيرة دون الوصول إلى بيانات التدريب يعادل اكتشاف الأدوية دون تجارب سريرية أو دراسة النظام الشمسي دون تلسكوب." - هانا حاجي شيرزي، قائدة مشروع OLMo في AI2، VentureBeat، فبراير 2024

"قفزة عملاقة للعلم المفتوح." - جوناثان فرانكل، كبير العلماء في Databricks، متحدثاً عن الإصدار الأصلي لـ OLMo، Business Wire، فبراير 2024

أين يتعثر OLMo: أنماط الفشل التي يواجهها المستخدمون باستمرار

نقطة الاحتكاك الأكثر ثباتاً هي سقف السياق البالغ 4,096 رمزاً في متغيرات 7B و 13B من OLMo 2. بينما يمتد Llama 3.1 إلى 128K رمز، يتضمن موضوع في منتدى HuggingFace حول OLMo-2-1124-13B مستخدمين يسألون صراحةً عما إذا كان هناك إصدار بسياق طويل ولا يجدون شيئاً. ستصطدم مهام تلخيص المستندات، والتحليل المطول، ومسارات RAG التي تتطلب سياقاً كبيراً بهذا الجدار.

تغطية اللغة الإنجليزية فقط هي قيد موثق. تركز مجموعة بيانات Dolma الخاصة بـ OLMo على اللغة الإنجليزية، وأكد تدريب التعليمات Tulu 3 أن إزالة البيانات متعددة اللغات أدى إلى تراجع الأداء بحوالي 0.5 نقطة. يجب على الفرق التي تعمل باللغات الإسبانية أو الفرنسية أو الصينية أو أي لغة أخرى ألا تعتمد على OLMo كتطبيق افتراضي في بيئات الإنتاج.

ينطوي الضبط الدقيق (Fine-tuning) على فخ خفي: النماذج التي تم تدريبها مسبقاً لفترة أطول قد تكون أصعب في ضبط التعليمات. وثقت أبحاث AI2 الخاصة تأثيراً يُعرف بـ "التدريب المفرط الكارثي" (catastrophic overtraining) حيث كان أداء نموذج OLMo 1B المُدرب على 3 تريليونات رمز أسوأ بأكثر من نقطتين مئويتين بعد الضبط الدقيق مقارنة بنقطة الحفظ عند 2.3 تريليون رمز. قد يُصاب الممارسون الذين يأخذون نقطة الحفظ النهائية بافتراض أنها أفضل أساس للضبط الدقيق اللاحق بخيبة أمل.

النظام البيئي للمجتمع أصغر بكثير من نظام Llama. حظي OLMo-2-1124-7B بحوالي 37,000 تنزيل شهري على Hugging Face في أوائل عام 2026، مقابل الملايين لمتغيرات Llama. توجد ملفات GGUF مكممة (17 تكميماً مدرجاً) ولكن نطاق الضبط الدقيق المجتمعي (15 مدرجاً) أضيق بكثير من المئات المتاحة لـ Llama 3. تميل تكاملات الواجهة الأمامية مع أدوات المستهلك مثل LM Studio و Ollama بشدة نحو تنسيقات GGUF الخاصة بـ Llama و Mistral.

مقارنة بين OLMo و Llama و SmolLM

OLMo مقابل Llama (من Meta): الاختلاف الجوهري يكمن في الإفصاح عن بيانات التدريب ونطاق الترخيص. يُصدر Llama 3.1 الأوزان بموجب ترخيص مجتمعي مخصص يقيد الاستخدام التجاري للخدمات التي تتجاوز 700 مليون مستخدم نشط شهرياً (MAU) ولا يفصح عن أي شيء حول تكوين بيانات التدريب. بينما يُصدر OLMo مجموعة بيانات Dolma بالكامل، وأكواد التدريب، وجميع نقاط الحفظ المرحلية بموجب ترخيص Apache 2.0 دون أي قيود على الاستخدام. فيما يتعلق بطول السياق، يدعم Llama 3.1 ما يصل إلى 128K رمز مقابل 4,096 رمزاً لـ OLMo 2 في أحجام 7B/13B. من حيث الأداء، يمتلك Llama نطاق معلمات أكبر (8B و 70B و 405B) ونظاماً بيئياً أوسع بكثير من الضبط الدقيق، والتكميم، وتكاملات الأدوات. يقلص OLMo الفجوة في المعايير عند كل حجم، ويتفوق OLMo 2 7B الآن على Llama 3.1 8B في المعايير الأكاديمية القياسية، لكن Llama يهيمن على النشر الاستهلاكي. يعتمد الاختيار على ما إذا كانت قابلية تدقيق بيانات التدريب متطلباً أساسياً.

OLMo مقابل SmolLM (من Hugging Face): كلاهما مفتوح بالكامل حقاً بتراخيص Apache 2.0 وبيانات تدريب مُفصح عنها. يستهدف SmolLM النشر على الأجهزة الطرفية (edge deployment): بمعلمات 135M و 360M و 1.7B مُدربة على مجموعة بيانات بحجم 252 مليار رمز (Cosmopedia v2 و FineWeb-Edu و Stack-Edu-Python)، وقادرة على العمل داخل المتصفح أو على وحدة المعالجة المركزية (CPU). بينما يستهدف OLMo التدريب على نطاق بحثي بمعلمات من 7B إلى 32B على مجموعة بيانات بحجم 3.9 تريليون رمز مستمدة من مزيج مصادر أوسع. يمتد SmolLM 3 إلى سياق 8K؛ بينما يصل OLMo 2 7B كحد أقصى إلى 4,096 رمزاً. إنهما ليسا متنافسين حقيقيين: SmolLM هي أداة استدلال على الجهاز، بينما OLMo هي منصة بحثية. الفريق الذي يريد استدلالاً طرفياً مفتوحاً بالكامل يختار SmolLM؛ والفريق الذي يريد نموذجاً لغوياً بحثياً قابلاً لإعادة الإنتاج بالكامل يختار OLMo.

هل تستحق الفئة المدفوعة التكلفة؟

لا توجد فئة مدفوعة. OLMo مجاني بكل ما تحمله الكلمة من معنى: تنزيل الأوزان مجاني، وتنزيل بيانات التدريب مجاني، وكود التدريب متاح على GitHub، ويسمح ترخيص Apache 2.0 بالنشر التجاري دون أي رسوم أو تقارير استخدام. AI2 هي مؤسسة غير ربحية؛ ويُموّل وجود النموذج من خلال المنح البحثية بدلاً من إيرادات المنتج. تفرض واجهات برمجة التطبيقات (APIs) السحابية التابعة لجهات خارجية (Together AI و Puter و Replicate) التي تستضيف نماذج OLMo أسعاراً لكل رمز (per-token) نموذجية لتلك المنصات، ولكن هذه تكلفة استضافة، وليست تكلفة ترخيص لـ OLMo. بالنسبة للفرق التي تقيم OLMo مقابل النماذج مفتوحة الأوزان التي تتطلب اتفاقيات ترخيص تجارية، تتلخص المقارنة في: تكلفة OLMo صفر في النفقات القانونية.

أفضل حالات الاستخدام، ومتى يجب تجاوزه

استخدم OLMo عندما: تجري بحثاً أكاديمياً حول ديناميكيات التدريب المسبق، أو تأثيرات تنظيم البيانات، أو تقنيات المواءمة وتحتاج إلى خطوط أساس قابلة لإعادة الإنتاج. أو إذا كنت فريق سلامة ذكاء اصطناعي يحتاج إلى تتبع مخرجات النموذج إلى مصادر التدريب. أو إذا كنت تحتاج إلى ترخيص Apache 2.0 دون القيود التي يفرضها ترخيص مجتمع Meta على النطاق الواسع. أو إذا كنت تبني تطبيقاً يركز على العلوم حيث يكون مصدر البيانات متطلباً تنظيمياً أو تعاقدياً. أو إذا كنت ترغب في إجراء عمليات استئصال (ablations) محكومة ومقارنة نقاط الحفظ عبر مسار التدريب.

تجاوز OLMo عندما: تحتاج إلى روبوت محادثة أو مساعد برمجي بجودة إنتاجية مع أقصى جودة توليد. في هذه الحالة، اتجه إلى نموذج رائد (frontier model) أو نموذج مضبوط دقيقاً يعتمد على Llama بدلاً من ذلك. أو إذا كنت تبني تطبيقات متعددة اللغات. أو إذا كان مسار عملك يعتمد على سياق ممتد يتجاوز 4K رمز في أحجام 7B/13B. أو إذا كنت تريد أوسع نظام بيئي ممكن من الضبط الدقيق المجتمعي، والمحولات (adapters)، والتكميم. أو إذا كنت تحتاج إلى نموذج صغير بما يكفي للعمل على وحدة المعالجة المركزية (CPU) أو في المتصفح: SmolLM يناسب هذه الحاجة بشكل أفضل. المهام الاستهلاكية العامة حيث لا يكون الانفتاح الكامل لبيانات التدريب ذا صلة بتجربة المستخدم لا تستفيد مما يجعل OLMo مميزاً.

البدء مع OLMo

تُحمل النماذج مباشرة عبر Hugging Face Transformers باستخدام معرف النموذج allenai/OLMo-2-1124-7B. تعمل فئات AutoModelForCausalLM و AutoTokenizer القياسية في HuggingFace دون أي كود مخصص. بالنسبة للاستدلال المضبوط بالتعليمات، يُطبق المتغير allenai/OLMo-2-1124-7B-Instruct مرحلة ما بعد التدريب Tulu 3. توفر منصة AI2 Playground على موقع allenai.org واجهة ويب بدون إعداد لاختبار OLMo 2 32B Instruct و OLMo 2 13B Instruct و OLMoE 1B-7B Instruct. بالنسبة للضبط الدقيق، يوفر مستودع open-instruct الخاص بـ AI2 على GitHub وصفات تدريب باستخدام نفس مسار Tulu المستخدم لإنتاج متغيرات التعليمات الرسمية. تتيح لك أداة OLMoTrace، التي يمكن الوصول إليها أيضاً من خلال AI2 Playground، إدخال أي مخرجات للنموذج ومعرفة مستندات التدريب التي تحتوي على نصوص مطابقة، وهو أمر مفيد لتصحيح الأخطاء، والتحقق من الحقائق، وتدقيق سلوك النموذج قبل النشر.