دليل اختيار وشراء العتاد
الدليل الشامل لاختيار GPU للنماذج اللغوية المحلية
تجاهل مقاييس الألعاب التقليدية. اكتشف لماذا يحدد النطاق الترددي للذاكرة سرعة توليد الكلمات، وما هي سعة VRAM المناسبة لكل نموذج، وكيف تقارن أجهزة Apple Silicon بحواسيب Nvidia.
1. القاعدة الذهبية لعتاد الذكاء الاصطناعي: النطاق الترددي قبل المعالجة
في استدلال نماذج اللغة التوليدية، نادرًا ما يكون عنق الزجاجة هو قوة المعالجة الخام (TFLOPS). بل هو دائمًا النطاق الترددي للذاكرة: السرعة التي يمكن بها نقل أوزان النموذج من ذاكرة VRAM إلى أنوية الحساب.
أثناء التوليد، يجب قراءة كافة أوزان النموذج من الذاكرة إلى أنوية كرت الشاشة لكل توكن (Token) يتم إنتاجه. البطاقة التي تمتلك معالجة هائلة ولكن نطاق تردد ضيق ستبقى معطلة في انتظار وصول البيانات.
مثال: نموذج 70B بتكميم Q4 يحتاج حوالي 40 جيجابايت VRAM. على كرت RTX 3090 بنطاق 936 GB/s، تكون السرعة النظرية القصوى 936 / 40 = 23.4 توكن/ثانية. أما على ذاكرة النظام DDR5 بنطاق 60 GB/s، فإن نفس النموذج يولد بسرعة 60 / 40 = 1.5 توكن فقط في الثانية.
2. المستويات الـ 4 لسعة VRAM: ما الذي يمكنك تشغيله فعليًا؟
نماذج 7B إلى 8B بتكميم Q4_K_M (Llama 3 8B، Mistral 7B، Qwen 2.5 7B) مع سياق قصير حتى 8k توكن.
RTX 3060 12GB (الخيار الاقتصادي الأفضل)، RTX 4060 Ti 16GB، أو RTX 5060 Ti 16GB.
نماذج 14B إلى 32B بتكميم Q4_K_M (Qwen 2.5 32B، Command-R)، أو نماذج 70B بتكميم مكثف (IQ2/Q3).
RTX 3090 24GB (مستعملة، قيمة لا تقبل المنافسة)، RTX 4090 24GB، أو RTX 5090 32GB.
تشغيل نماذج 70B إلى 72B كاملة بتكميم Q4_K_M مع نوافذ سياق رحبة 32k وتكميم FP8 لذاكرة KV.
كرتين RTX 3090 (إجمالي 48GB)، كرتين RTX 4090، أو Apple Mac Studio M2/M3/M4 Max (48GB إلى 64GB).
Llama 3.3 70B بتكميم Q8_0، وQwen 2.5 72B بدقة FP16، ونماذج DeepSeek R1/V3 المقطرة، وLlama 405B بتكميم Q2/Q3.
Apple Mac Studio M2/M3 Ultra (ذاكرة موحدة 128GB إلى 192GB) أو حواسيب متعددة الكروت الاحترافية.
3. أجهزة Apple Silicon Mac مقابل حواسيب Nvidia: ماذا تشتري؟
- سعة VRAM هائلة: ذاكرة موحدة تصل إلى 128GB أو 192GB في جهاز مكتبي هادئ وصغير.
- هدوء تام واستهلاك طاقة منخفض: يستهلك 80W إلى 120W تحت أقصى ضغط مقارنة بـ 850W+ للحواسيب متعددة الكروت.
- نطاق ترددي متوسط: 300 إلى 800 GB/s يوفر سرعات عملية بين 15 و25 توكن/ثانية لنماذج 70B.
- البيئة البرمجية: دعم ممتاز عبر مكتبة MLX وllama.cpp Metal؛ بينما vLLM وCUDA غير مدعومين.
- أقصى سرعة توليد: نطاق ترددي 1008 GB/s في RTX 4090 يحقق سرعات استثنائية بين 30 و60 توكن/ثانية.
- المعيار الصناعي المعتمد: توافق 100% مع CUDA وPyTorch وvLLM وTensorRT-LLM وFlashAttention-2.
- حاجز سعة VRAM: حد أقصى 24GB للكرت الاستهلاكي الواحد. تشغيل نماذج 70B يتطلب بناء منصة متعددة الكروت.
- استهلاك الطاقة والحرارة: يتطلب مزود طاقة 1000W+، وصندوق حاسوب بتدفق هواء قوي، وتبريدًا خاصًا.
4. بناء محطة عمل ببطاقتي GPU لنماذج 70B
إذا كان هدفك هو تشغيل نماذج 70B بكامل سرعتها على حاسوبك، فإن تكوين كرتين هو الخيار الأكثر جدوى اقتصادية:
تأكد من أن اللوحة الأم تدعم تجزئة x8 / x8 على مسارات المعالج، مع مسافة 3 إلى 4 شقوق بين البطاقتين لضمان التبريد.
اختر مزود طاقة باستطاعة لا تقل عن 1200W أو 1500W بشهادة Platinum أو Titanium لتحمل الارتفاعات اللحظية في الطاقة.
استخدم vLLM مع خاصية Tensor Parallelism (--tensor-parallel-size 2) أو تقسيم الطبقات في llama.cpp لتوزيع النموذج بين الكرتين.
الأسئلة الشائعة
لماذا كرت RTX 3090 القديم بسعة 24GB أفضل للنماذج المحلية من كرت RTX 4080 الجديد بسعة 16GB؟
هل 8GB VRAM كافية لتشغيل النماذج المحلية في 2026؟
هل يمكنني تشغيل نموذج 70B على Apple Silicon Mac Studio بذاكرة موحدة 64GB أو 128GB؟
لماذا تنهار سرعة التوليد عند ترحيل بعض الطبقات إلى المعالج (n-gpu-layers)؟
هل تكوين كرتين RTX 3090 أفضل من كرت واحد RTX 4090؟
هل تحتاج VRAM أكبر مما يوفره كرتك الحالي؟
استأجر سيرفرات GPU بنظام الساعة (RTX 4090 أو H100) عبر RunPod وVast.ai بأسعار تبدأ من 0.34 $/ساعة.
المعرفة والأدلة المعمقة
مركز المعرفة حول VRAM والنماذج اللغوية المحلية
أدلة تقنية شاملة، وتحليلات معمارية، وإرشادات لاختيار العتاد لمساعدتك على تشغيل نماذج الذكاء الاصطناعي محليًا بدقة وثقة مطلقة.