Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

كيفية تشغيل Mistral Large 4 محليًا

说明与用途

Mistral Large 4 现在可在 Hugging Face 上以开放权重形式获取,可使用 vLLM、SGLang、Transformers 或 llama.cpp 在 8 个 GPU 或 Apple Silicon Ultra 上本地部署。

问题

تشغيل نموذج Mistral Large 4 (1.05T) على بيئة محلية أو سحابة مع قيود الأجهزة والميزانية

结果

تمكين تشغيل Mistral Large 4 محليًا على 8 GPU أو جهاز Apple Silicon Ultra، مع تحسين الأداء عبر تكوينات التوازي والتخمين

工作流

  • 1. اختر مسار التشغيل (API، موفر مستضاف، أو self-host)
  • 2. إذا اخترت self-host، احصل على الأوزان من Hugging Face باستخدام CLI أو Docker
  • 3. حدد محرك التشغيل (vLLM، SGLang، Transformers، llama.cpp)
  • 4. أضبط معلمات التوازي (مثلاً --tensor-parallel-size 8) وخصائص الاستدلال (low/medium/high)
  • 5. شغّل الخادم أو التطبيق، واختبر الأداء (مثلاً 65 token/s على 8x H200)

证据

أوزان Mistral Large 4 المفتوحة تم رفعها على Hugging Face في 29 أكتوبر 2026

来源

يمكنك تنزيله دون خطوة موافقة، أو تشغيله على 8 وحدات معالجة رسومات لمراكز البيانات باستخدام vLLM أو SGLang

来源

  • 记录日期: 2026-11-02T09:43:46.331Z