دليل اختيار وشراء العتاد
الدليل الشامل لاختيار GPU للنماذج اللغوية المحلية
تجاهل مقاييس الألعاب التقليدية. اكتشف لماذا يحدد النطاق الترددي للذاكرة سرعة توليد الكلمات، وما هي سعة VRAM المناسبة لكل نموذج، وكيف تقارن أجهزة Apple Silicon بحواسيب Nvidia.
1. القاعدة الذهبية لعتاد الذكاء الاصطناعي: النطاق الترددي قبل المعالجة
في استدلال نماذج اللغة التوليدية، نادرًا ما يكون عنق الزجاجة هو قوة المعالجة الخام (TFLOPS). بل هو دائمًا النطاق الترددي للذاكرة: السرعة التي يمكن بها نقل أوزان النموذج من ذاكرة VRAM إلى أنوية الحساب.
أثناء التوليد، يجب قراءة كافة أوزان النموذج من الذاكرة إلى أنوية كرت الشاشة لكل رمز (Token) يتم إنتاجه. البطاقة التي تمتلك معالجة هائلة ولكن نطاق تردد ضيق ستبقى معطلة في انتظار وصول البيانات.
مثال: نموذج 70B بتكميم Q4 يحتاج حوالي 40 جيجابايت VRAM. على كرت RTX 3090 بنطاق 936 GB/s، تكون السرعة النظرية القصوى 936 / 40 = 23.4 رمزًا في الثانية. أما على ذاكرة النظام DDR5 بنطاق 60 GB/s، فإن نفس النموذج يولد بسرعة 60 / 40 = 1.5 رمز فقط في الثانية.
2. المستويات الـ 4 لسعة VRAM: ما الذي يمكنك تشغيله فعليًا؟
نماذج 7B إلى 8B بتكميم Q4_K_M (Llama 3 8B، Mistral 7B، Qwen 2.5 7B) مع سياق قصير حتى 8k رمز.
RTX 3060 12GB (الخيار الاقتصادي الأفضل)، RTX 4060 Ti 16GB، أو RTX 5060 Ti 16GB.
نماذج 14B إلى 32B بتكميم Q4_K_M (Qwen 2.5 32B، Command-R)، أو نماذج 70B بتكميم مكثف (IQ2/Q3).
RTX 3090 24GB (مستعملة، قيمة لا تقبل المنافسة)، RTX 4090 24GB، أو RTX 5090 32GB.
تشغيل نماذج 70B إلى 72B كاملة بتكميم Q4_K_M مع نوافذ سياق رحبة 32k وتكميم FP8 لذاكرة KV.
كرتين RTX 3090 (إجمالي 48GB)، كرتين RTX 4090، أو Apple Mac Studio M2/M3/M4 Max (48GB إلى 64GB).
Llama 3.3 70B بتكميم Q8_0، وQwen 2.5 72B بدقة FP16، ونماذج DeepSeek R1/V3 المقطرة، وLlama 405B بتكميم Q2/Q3.
Apple Mac Studio M2/M3 Ultra (ذاكرة موحدة 128GB إلى 192GB) أو حواسيب متعددة الكروت الاحترافية.
3. أجهزة Apple Silicon Mac مقابل حواسيب Nvidia: ماذا تشتري؟
- سعة VRAM هائلة: ذاكرة موحدة تصل إلى 128GB أو 192GB في جهاز مكتبي هادئ وصغير.
- هدوء تام واستهلاك طاقة منخفض: يستهلك 80W إلى 120W تحت أقصى ضغط مقارنة بـ 850W+ للحواسيب متعددة الكروت.
- نطاق ترددي متوسط: 300 إلى 800 GB/s يوفر سرعات عملية بين 15 و25 رمزًا في الثانية لنماذج 70B.
- البيئة البرمجية: دعم ممتاز عبر مكتبة MLX وllama.cpp Metal؛ بينما vLLM وCUDA غير مدعومين.
- أقصى سرعة توليد: نطاق ترددي 1008 GB/s في RTX 4090 يحقق سرعات استثنائية بين 30 و60 رمزًا في الثانية.
- المعيار الصناعي المعتمد: توافق 100% مع CUDA وPyTorch وvLLM وTensorRT-LLM وFlashAttention-2.
- حاجز سعة VRAM: حد أقصى 24GB للكرت الاستهلاكي الواحد. تشغيل نماذج 70B يتطلب بناء منصة متعددة الكروت.
- استهلاك الطاقة والحرارة: يتطلب مزود طاقة 1000W+، وصندوق حاسوب بتدفق هواء قوي، وتبريدًا خاصًا.
4. بناء محطة عمل ببطاقتي GPU لنماذج 70B
إذا كان هدفك هو تشغيل نماذج 70B بكامل سرعتها على حاسوبك، فإن تكوين كرتين هو الخيار الأكثر جدوى اقتصادية:
تأكد من أن اللوحة الأم تدعم تجزئة x8 / x8 على مسارات المعالج، مع مسافة 3 إلى 4 شقوق بين البطاقتين لضمان التبريد.
اختر مزود طاقة باستطاعة لا تقل عن 1200W أو 1500W بشهادة Platinum أو Titanium لتحمل الارتفاعات اللحظية في الطاقة.
استخدم vLLM مع خاصية Tensor Parallelism (--tensor-parallel-size 2) أو تقسيم الطبقات في llama.cpp لتوزيع النموذج بين الكرتين.
الأسئلة الشائعة
لأن سعة VRAM هي الأساس في نماذج اللغة. كرت RTX 3090 بسعة 24GB يمكنه استيعاب نماذج 32B بتكميم Q4 أو نماذج 14B الكاملة مع سياق 32k بالكامل في الذاكرة. بينما كرت 16GB يعجز عن ذلك ويضطر لترحيل الطبقات إلى رام الحاسوب البطيء. بالإضافة إلى ذلك، يمتلك RTX 3090 نطاقًا تردديًا يصل إلى 936 GB/s مقارنة بـ 717 GB/s لكرت 4080.
8GB كافية لتجربة نماذج 7B أو 8B بتكميم Q4_K_M مع سياق قصير (حتى 4k أو 8k رمز). لكنها محدودة للغاية لمساعدي البرمجة الحديثين أو الوثائق الطويلة أو تشغيل شاشات العرض بجانبها. عند الشراء اليوم، نوصي بأن تكون 12GB أو 16GB هي الحد الأدنى.
نعم. تتيح معمارية الذاكرة الموحدة في أبل لأنوية GPU الوصول إلى كامل الرام دون قيود PCIe. جهاز Mac Studio بسعة 64GB يشغل Llama 3.3 70B بتكميم Q4_K_M بسلاسة (~45 جيجابايت إجمالي) بسرعة 15 إلى 22 رمزًا/ثانية. وسعة 128GB أو 192GB تشغل 70B بدقة FP16 كاملة أو نماذج MoE الضخمة التي تتطلب عتاد حاسوب يتجاوز 10,000 دولار.
عندما يستقر النموذج بالكامل في VRAM، تنتقل البيانات بسرعة 500 إلى 1000 GB/s. وعند ترحيل طبقات إلى رام النظام، تنتقل عبر منفذ PCIe (أقصى سرعة لـ PCIe 4.0 x16 هي ~31.5 GB/s ورام DDR5 بسرعة 60-90 GB/s). ولأن التوليد مقيد بالباندويث، فإن ترحيل حتى بضع طبقات يهبط بالسرعة من 45 رمزًا/ثانية إلى 3-6 رموز فقط.
لنماذج 70B، نعم بكل تأكيد. كرت RTX 4090 يمتلك 24GB فقط ولا يمكنه استيعاب 70B مكمم بالكامل. بينما كرتين RTX 3090 يوفران 48GB مجمعة (عبر Tensor Parallelism في vLLM أو llama.cpp)، مما يسمح بتشغيل 70B Q4_K_M بالكامل في الذاكرة بسرعة 25+ رمزًا/ثانية بتكلفة مماثلة أو أقل من كرت 4090 واحد.
هل تحتاج VRAM أكبر مما يوفره كرتك الحالي؟
استأجر سيرفرات GPU بنظام الساعة (RTX 4090 أو H100) عبر RunPod وVast.ai بأسعار تبدأ من 0.34 $/ساعة.
Knowledge & Deep Dives
مركز المعرفة حول VRAM والنماذج اللغوية المحلية
أدلة تقنية شاملة، وتحليلات معمارية، وإرشادات لاختيار العتاد لمساعدتك على تشغيل نماذج الذكاء الاصطناعي محليًا بدقة وثقة مطلقة.