بهترین کارت گرافیک برای هوش مصنوعی؛ مقایسه A100، H100، H200، L40S، RTX 4090 و Blackwell
راهنمای جامع خرید کارت گرافیک AI برای LLM، Qwen، Llama، DeepSeek، بینایی ماشین، Stable Diffusion، آموزش مدل و Fine-Tuning؛ همراه نمودارهای مشخصات سختافزاری، روش درست خواندن بنچمارک، محاسبه VRAM، NVLink، کانفیگ اقتصادی تا دیتاسنتری و نکات نصب روی سرورهای HPE.
مقایسه GPUهانمودارهاانتخاب برای مدلهای AIاستعلام قیمتچطور GPU مناسب هوش مصنوعی را انتخاب کنیم؟
در مقاله اولیه، A100، H100، L40، RTX 6000 Ada، A800، RTX A5000 و RTX 4090 معرفی شده بودند. این نسخه همه آن موضوعات را نگه میدارد و مدلهای جدیدتر و گزینههای اقتصادی را اضافه میکند. برخلاف انتخاب کارت برای بازی، در AI معمولاً ابتدا باید ظرفیت VRAM، نوع محاسبه و سازگاری نرمافزار را بررسی کرد.
Inference / استنتاج
اجرای مدل آموزشدیده؛ معیارها: Tokens/s، تأخیر نخستین توکن، تعداد درخواست همزمان و VRAM.
Fine-Tuning
تنظیم مدل موجود؛ معیارها: ظرفیت حافظه، BF16/FP16، سرعت آموزش، پشتیبانی کتابخانهها و روش LoRA/QLoRA.
Training از صفر
بالاترین فشار بر GPU، شبکه، ذخیرهسازی و بودجه؛ نیازمند طراحی کلاستر و اندازهگیری عملی.
جدول مقایسه کارتهای گرافیک هوش مصنوعی
ارقام زیر مقادیر مرجع و گردشده برای نسخههای مشخصشده هستند؛ بسته به SKU، حافظه و فرمفاکتور، اعداد ممکن است تغییر کنند. پهنای باند حافظه بنچمارک اجرای مدل نیست.
| مدل GPU | VRAM | پهنای باند تقریبی | معماری | کاربرد اصلی | رده |
|---|---|---|---|---|---|
| T4 | 16GB | 320 GB/s | Turing | Inference سبک / ویدئو | اقتصادی |
| P40 | 24GB | 346 GB/s | Pascal | Inference قدیمی؛ فاقد Tensor Core | قدیمی |
| RTX A5000 | 24GB | 768 GB/s | Ampere | توسعه، تصویر و آموزش متوسط | میانرده |
| RTX 4090 | 24GB | 1,008 GB/s | Ada | توسعه محلی، Diffusion، QLoRA | ورکاستیشن |
| A100 40GB | 40GB | 1,555 GB/s | Ampere | آموزش و استنتاج سازمانی | دیتاسنتر |
| A100 80GB | 80GB | 1,935 GB/s | Ampere | آموزش و LLM با حافظه بیشتر | دیتاسنتر |
| A800 80GB | 80GB | 1,935 GB/s | Ampere | مشابه A100 با تفاوتهای بیناتصالی | نسخه منطقهای |
| L40 | 48GB | 864 GB/s | Ada | رندر، تصویر و AI | دیتاسنتر |
| L40S | 48GB | 864 GB/s | Ada | Inference، تصویر، تولید محتوا | دیتاسنتر |
| RTX 6000 Ada | 48GB | 960 GB/s | Ada | گرافیک حرفهای و AI | ورکاستیشن |
| H100 PCIe | 80GB | 2,000 GB/s | Hopper | Training و Inference سنگین | دیتاسنتر |
| H100 NVL | 94GB | 3,900 GB/s | Hopper | LLM با NVLink سازگار | دیتاسنتر |
| H200 NVL | 141GB | 4,800 GB/s | Hopper | LLM بزرگ و پهنای باند بالا | دیتاسنتر |
| RTX PRO 6000 Blackwell Server | 96GB | 1,597 GB/s | Blackwell | Inference و AI سازمانی | دیتاسنتر |
نمودارهای مقایسهای؛ ظرفیت VRAM و پهنای باند حافظه
نمودار ۱: ظرفیت حافظه هر GPU (گیگابایت)
این نمودار برای تخمین امکان جاگیری مدل مفید است؛ بهتنهایی نشاندهنده سرعت بیشتر نیست.
نمودار ۲: پهنای باند نظری حافظه (GB/s)
مقادیر برای نسخههای مشخصشده؛ مقایسه سرعت اجرای LLM نیست.
بنچمارک واقعی هوش مصنوعی را چگونه بخوانیم؟
«GPU X دو برابر GPU Y سریعتر است» بدون نام مدل، نسخه نرمافزار، تعداد کارت و معیار اندازهگیری، ادعای علمی نیست. برای بنچمارک معتبر، نتایج MLPerf Inference را در یک نسخه آزمون، مدل، سناریو و سطح دقت یکسان مقایسه کنید؛ بسیاری از نتایج مربوط به سامانه کامل چند GPU هستند، نه یک کارت.
LLM: Tokens/s
تعداد توکن خروجی در ثانیه، با ثبت Batch، Prompt Length، Output Length و Precision.
LLM: TTFT / TPOT
زمان تا اولین توکن و زمان تولید هر توکن؛ برای تجربه کاربر چتبات مهماند.
Training: Samples/s
نمونه در ثانیه یا زمان هر Step با مدل، Dataset و Batch ثابت.
Vision: Images/s
تعداد تصویر در ثانیه در رزولوشن و دقت ثابت؛ مثلاً ResNet یا YOLO.
Diffusion: s/image
زمان تولید تصویر با تعداد Step، رزولوشن و Scheduler یکسان.
Efficiency: Tokens/J
بازدهی مصرف انرژی در کل سیستم، نه فقط توان نامی GPU.
| نوع پروژه | بنچمارک پیشنهادی | شرط مقایسه منصفانه |
|---|---|---|
| چتبات Qwen/Llama | Output tokens/s، TTFT، TPOT، concurrent users | وزن و Quantization و Context یکسان |
| RAG سازمانی | p95 latency، requests/s، retrieval latency | اندازه اسناد و Embedding یکسان |
| Stable Diffusion / FLUX | Seconds/image و peak VRAM | رزولوشن، steps و sampler یکسان |
| YOLO / CV | Images/s، latency و mAP | رزولوشن و دقت ثابت |
| LoRA / QLoRA | Tokens/s training و peak VRAM | Rank، Batch، Sequence و Precision ثابت |
چه GPU برای Qwen، Llama، DeepSeek و مدلهای مختلف مناسب است؟
برای مدل Dense با N میلیارد پارامتر، حافظه وزنها تقریباً برابر N×2 گیگابایت در BF16/FP16، برابر N گیگابایت در INT8 و N÷2 گیگابایت در INT4 است. این اعداد حداقل نظری وزنها هستند، نه VRAM قطعی لازم برای اجرا؛ سربار Quantization و KV Cache باید اضافه شود.
| اندازه مدل Dense | BF16/FP16 فقط وزن | INT8 فقط وزن | INT4 فقط وزن | راهنمای عملی |
|---|---|---|---|---|
| 7B | ≈ 14 GB | ≈ 7 GB | ≈ 3.5 GB | GPU با 16 تا 24GB برای Quantized قابل بررسی |
| 8B | ≈ 16 GB | ≈ 8 GB | ≈ 4 GB | GPU با 16 تا 24GB برای Quantized قابل بررسی |
| 14B | ≈ 28 GB | ≈ 14 GB | ≈ 7 GB | GPU با 16 تا 24GB برای Quantized قابل بررسی |
| 32B | ≈ 64 GB | ≈ 32 GB | ≈ 16 GB | 48GB یا بیشتر / چند GPU بسته به Context |
| 70B | ≈ 140 GB | ≈ 70 GB | ≈ 35 GB | 80 تا 141GB یا چند GPU؛ طراحی دقیق الزامی |
| 120B | ≈ 240 GB | ≈ 120 GB | ≈ 60 GB | 80 تا 141GB یا چند GPU؛ طراحی دقیق الزامی |
| 405B | ≈ 810 GB | ≈ 405 GB | ≈ 202.5 GB | 80 تا 141GB یا چند GPU؛ طراحی دقیق الزامی |
Qwen کوچک و متوسط
برای 7B/8B و بسیاری از نسخههای Quantized، 16 تا 24GB VRAM میتواند نقطه شروع باشد؛ برای 14B/32B و Context بلند، 48GB یا بالاتر را بررسی کنید.
Llama 70B
وزنهای BF16 حدود 140GB میخواهند؛ یک H200 141GB الزاماً برای اجرای کامل کافی نیست، چون حافظه اضافی لازم است. INT4 یا چند GPU بررسی شود.
DeepSeek و MoE
در Mixture-of-Experts باید میان پارامتر کل و پارامتر فعال تفاوت گذاشت؛ حافظه لازم برای نگهداری وزنها تابع کل وزنهای بارگذاریشده و Offload است.
بررسی تخصصی تمام کارتهای مقاله اولیه و مدلهای جدید
NVIDIA A100 40GB و 80GB
معماری Ampere، Tensor Core و HBM. گزینهای جدی برای آموزش، Inference و پردازش علمی. نسخه 80GB برای مدلهای حافظهمحور انعطاف بیشتری دارد. شکل PCIe و SXM، توان، NVLink و سازگاری سرور را جداگانه بررسی کنید.
NVIDIA H100 PCIe و H100 NVL
Hopper و پشتیبانی از محاسبات AI جدیدتر از A100. H100 NVL با 94GB حافظه در هر GPU و قابلیت اتصال NVLink در پیکربندیهای تأییدشده عرضه میشود؛ با H100 PCIe معمولی یکسان فرض نشود.
NVIDIA H200 NVL 141GB
141GB حافظه HBM3e با پهنای باند نظری 4.8TB/s در هر GPU. برای LLMهای حافظهمحور، Inference و Training جذاب است. امکان نصب روی سرور HPE باید از QuickSpecs و کابل/توان/تهویه تأیید شود.
NVIDIA L40 و L40S
هر دو 48GB GDDR6 دارند؛ L40S بیشتر برای محاسبات AI و L40 برای ترکیب پردازش بصری و AI مطرح است. هر دو را از نظر قابلیتها و عملکرد یکسان ندانید؛ L40S از NVLink پشتیبانی نمیکند.
NVIDIA RTX 6000 Ada 48GB
کارت حرفهای Ada با 48GB GDDR6 ECC، مناسب طراحی، رندر و کاربردهای AI. در مقایسه با کارت دیتاسنتری، شرایط خنکسازی، پشتیبانی سرور و محیط کاری مهم است.
NVIDIA A800
عضو خانواده Ampere با گونههای مختلف و مشخصات اتصال متفاوت از A100. عبارت «ویژه ایران» یا «واردات رسمی تضمینشده» دقیق نیست؛ قوانین صادرات و شرایط عرضه باید جداگانه بررسی شوند.
NVIDIA RTX A5000
24GB GDDR6، مناسب توسعه و آموزش مدلهای متوسط. برای تیمهای دانشگاهی و ورکاستیشن گزینه قابل بررسی است؛ خرید آن صرفاً با اتکا به برچسب اقتصادی بودن توصیه نمیشود.
NVIDIA RTX 4090
24GB GDDR6X و توان محاسباتی مناسب توسعه محلی، Stable Diffusion و QLoRA محدود به حافظه. کارت مصرفی است و برای رک سرور باید محدودیت خنکسازی، پاور و پشتیبانی سازنده بررسی شود.
NVIDIA T4، P40 و V100
T4 برای Inference کممصرف و ویدئو؛ P40 برای بعضی بارهای کاری قدیمی با 24GB اما بدون Tensor Core؛ V100 برای پروژههای قدیمی CUDA و یادگیری عمیق. برای BF16 یا قابلیتهای جدید باید پشتیبانی معماری دقیق بررسی شود.
NVIDIA RTX PRO 6000 Blackwell Server Edition
96GB GDDR7 ECC، پهنای باند رسمی 1597GB/s و پشتیبانی از FP4 در Blackwell. گزینه تازهتر برای AI سازمانی؛ ظرفیت 96GB به معنی برتری حافظه نسبت به H200 141GB نیست. نسخه Server را با Workstation اشتباه نگیرید.
حافظه HBM2، HBM2e، HBM3، HBM3e، GDDR6 و GDDR7
HBM
حافظه با پهنای باند بالا؛ برای برخی GPUهای دیتاسنتری مانند A100، H100 و H200. ظرفیت و سرعت وابسته به نسخه است.
GDDR6 / GDDR6X
در کارتهای ورکاستیشن و برخی GPUهای دیتاسنتری کاربرد دارد؛ پهنای باند و ECC تابع مدل است.
GDDR7
نسل جدیدتر GDDR؛ در RTX PRO 6000 Blackwell Server Edition با 96GB ECC بهکار رفته است.
ظرفیت VRAM تعیین میکند چه میزان وزن مدل، KV Cache و بافرها روی GPU جا شوند؛ پهنای باند تعیین میکند داده با چه سرعت نظری بین حافظه و پردازنده GPU جابهجا شود. سرعت واقعی اجرای مدل به Compute، Kernel، Batch و نرمافزار هم بستگی دارد.
NVLink چیست و چه زمانی ارزش هزینه دارد؟
NVLink ارتباط پرسرعت GPU به GPU در کارتها و سامانههای پشتیبانیشده است. هنگام Tensor Parallelism و برخی آموزشهای توزیعشده میتواند سربار تبادل داده را کاهش دهد. NVLink دو کارت را به یک GPU با VRAM یکپارچه تبدیل نمیکند؛ نرمافزار باید حافظه توزیعشده را مدیریت کند.
NVLink لازم است؟
برای مدلهای تقسیمشده میان GPUها و انتقال سنگین Activation/Gradient مفید است؛ فقط اگر GPU، Bridge، شاسی و نرمافزار پشتیبانی کنند.
NVLink لازم نیست؟
برای دو مدل مستقل، بسیاری از Inferenceهای تکGPU و برخی کارهای Data Parallel، ارتباط PCIe یا شبکه ممکن است کافی باشد.
عملکرد و سازگاری در TensorFlow، PyTorch، JAX و ابزارهای LLM
PyTorch
رایج در پژوهش، آموزش و Fine-Tuning؛ بررسی نسخه CUDA، Compute Capability، BF16 و کتابخانههای موردنیاز ضروری است.
TensorFlow
برای آموزش و Inference در پروژههای سازگار؛ نسخه GPU و CUDA/cuDNN باید با هم هماهنگ باشند.
JAX
مناسب محاسبات آرایهای و پژوهش پیشرفته؛ انتخاب GPU باید بر پایه نسخه JAX، Backend و Workload باشد.
vLLM / SGLang
ابزارهای رایج سرویسدهی LLM؛ پشتیبانی مدل، Quantization، Parallelism و GPU در هر نسخه متفاوت است.
TensorRT-LLM
برای بهینهسازی Inference در سامانههای NVIDIA؛ نتیجه به مدل و نسخه Engine وابسته است.
ONNX Runtime
مناسب استقرار مدل در برخی محیطها؛ وجود CUDA یا TensorRT Execution Provider به تنظیمات بستگی دارد.
هیچ فریمورکی بهتنهایی «سریعترین GPU» را تعیین نمیکند. آزمون باید روی نسخه ثابت نرمافزار و داده ثابت انجام شود.
نصب کارت گرافیک AI روی سرورهای HPE Gen9، Gen10، Gen11 و Gen12
برای DL380 Gen10، DL380 Gen11، DL380a Gen11، DL580 Gen10 و مدلهای جدیدتر، صرف داشتن اسلات PCIe کافی نیست. فهرست GPUهای رسمی همان مدل، GPU Enablement Kit، Riser، کابل برق، PSU، جریان هوا، ابعاد کارت و Firmware باید بررسی شود.
| موضوع | سؤال مهم پیش از خرید | ریسک عدم بررسی |
|---|---|---|
| GPU QuickSpecs | آیا مدل و P/N کارت در پلتفرم تأیید شده؟ | عدم پشتیبانی رسمی |
| پاور و کابل | کانکتور و توان GPU تأمین میشود؟ | عدم راهاندازی یا ناپایداری |
| Cooling | Fan Kit و Airflow برای GPU کافی است؟ | Thermal Throttling |
| Riser و PCIe | ابعاد، اسلات، Lane و فاصله کارتها مناسب است؟ | عدم نصب فیزیکی یا افت پهنای باند |
| Storage | NVMe، SSD و Dataset با I/O مناسباند؟ | GPU منتظر داده میماند |
| Networking | 10/25/100/200GbE یا InfiniBand لازم است؟ | گلوگاه چندنودی |
کانفیگهای پیشنهادی؛ اقتصادی، متعادل و دیتاسنتری
اقتصادی / توسعه
یک GPU با 16 تا 24GB VRAM (مثل T4 یا RTX A5000 یا RTX 4090 متناسب با شاسی)، RAM سیستم 64–128GB، SSD NVMe و شبکه مناسب. برای مدلهای کوچک Quantized، Vision و آزمایش.
متعادل / سازمانی
یک GPU با 48GB یا 80GB (مانند L40S یا A100 80GB)، RAM سیستم 128–512GB، NVMe Enterprise و 10/25GbE. مناسب RAG، Inference و Fine-Tuning منتخب.
حرفهای / AI Datacenter
GPUهای H100/H200/Blackwell با شاسی رسمی سازگار، CPU و RAM کافی، NVMe، شبکه پرسرعت، توان و سرمایش محاسبهشده؛ مناسب LLM بزرگ و سرویسدهی همزمان.
قیمت کارت گرافیک هوش مصنوعی و انتخاب براساس بودجه
قیمت روز GPU تابع موجودی، نو یا کارکرده بودن، نوع خنکسازی، نسخه PCIe/SXM، گارانتی، نرخ ارز و شرایط تأمین است. بدون استعلام زنده نباید عدد قطعی منتشر کرد.
بودجه محدود
T4، P40 و RTX A5000 را با توجه به محدودیت معماری و نوع پروژه بررسی کنید. P40 برای قابلیتهای مدرن BF16 مناسب نیست.
بودجه متوسط
RTX 4090 برای توسعه محلی یا L40S برای برخی استقرارهای سازمانی؛ معیار انتخاب، شاسی و VRAM و هزینه کل است.
بودجه بالا
A100 80GB، H100، H200 NVL و RTX PRO 6000 Blackwell Server؛ بر اساس نیاز واقعی، نه صرفاً نام جدیدترین کارت.
محاسبه هزینه واقعی مالکیت (TCO)
هزینه خرید GPU + سرور و قطعات + برق و سرمایش + رک و شبکه + لایسنس نرمافزار + نگهداری + هزینه توقف سرویس. گاهی GPU ارزانتر با مصرف بیشتر یا نیاز به چند کارت، در مجموع اقتصادی نیست.
فهرست مراکز فروش و تأمینکنندگان سرور HP در ایران
این ۱۱ نام مطابق فهرست درخواستی و به همان ترتیب درج شدهاند. این فهرست رتبهبندی مستقل، تأیید کیفیت یا گواهی نمایندگی رسمی HPE نیست؛ وضعیت حقوقی، حوزه فعالیت و موجودی هر مجموعه باید پیش از خرید جداگانه بررسی شود.
پرسشهای متداول خرید GPU هوش مصنوعی
RTX 4090 برای AI خوب است؟
برای توسعه محلی و برخی مدلهای Quantized و تصویر بسیار کاربردی است، اما 24GB VRAM و محدودیت استقرار سروری دارد.
A100 40GB بهتر است یا A100 80GB؟
نسخه 80GB ظرفیت بیشتر و در گونههای متداول پهنای باند بالاتری دارد؛ ارزش خرید به Workload و قیمت بستگی دارد.
H100 بهتر است یا H200؟
H200 بهخصوص از نظر ظرفیت و پهنای باند حافظه ارتقا دارد؛ سرعت واقعی به مدل، نسخه GPU و تنظیمات بستگی دارد.
آیا H200 141GB مدل 70B را در BF16 اجرا میکند؟
وزن 70B در BF16 حدود 140GB است؛ با سربار Runtime و KV Cache، یک کارت 141GB معمولاً برای استنتاج کامل با حاشیه امن کافی نیست.
A800 همان A100 است؟
خیر؛ گونههای A800 محدودیتها و تفاوتهایی بهویژه در ارتباط بین GPUها دارند.
NVLink حافظه GPUها را یکی میکند؟
خیر؛ ارتباط سریع میان GPUها فراهم میکند و مدیریت حافظه توزیعشده بر عهده نرمافزار است.
برای Qwen3 چه کارتی بخریم؟
ابتدا اندازه و نوع مدل (Dense یا MoE)، Quantization، Context و همزمانی را مشخص کنید؛ 7B با 70B یک نیاز سختافزاری ندارد.
L40S یا RTX 6000 Ada؟
هر دو 48GB هستند اما کاربری، خنکسازی و مشخصات متفاوت دارند؛ انتخاب به محیط سرور یا ورکاستیشن و نوع پردازش بستگی دارد.
HBM3 همیشه سریعتر از GDDR7 است؟
نه به صورت مطلق؛ مقایسه باید ظرفیت، پهنای باند، Compute و اجرای واقعی Workload را هم در نظر بگیرد.
چرا FP32 معیار خوبی برای LLM نیست؟
بسیاری از مدلهای زبانی با BF16، FP16، FP8 یا Quantization اجرا میشوند؛ FP32 بهتنهایی نماینده سرعت آنها نیست.
بهترین فریمورک AI چیست؟
PyTorch، TensorFlow و JAX کاربردهای مختلف دارند؛ نسخه و سازگاری GPU و ابزارهای استقرار مهمتر از یک رتبهبندی کلی است.
RAID جایگزین بکاپ Dataset است؟
خیر؛ RAID در برابر همه خرابیها و حذف داده محافظت نمیکند. Backup و تست بازیابی مستقل لازم است.
مشاوره خرید و قیمت کارت گرافیک و سرور هوش مصنوعی
مشاوره تخصصی GPU و سرور HPE در مستر اچپی
برای استعلام موجودی و قیمت کارتهای A100، H100، H200 NVL، L40S، RTX 6000 Ada و انتخاب کانفیگ سازگار با سرورهای HPE، مدل AI و نیاز پردازشی خود را اعلام کنید.
مشاهده کارتهای گرافیک سرورارتباط با کارشناسان مستر اچپیواتساپ 09121219004تلفن فروش: 021-91008413
منابع و روش ارزیابی
نمودارها مشخصات حافظه و پهنای باند نظریاند و نباید بهعنوان بنچمارک سرعت واقعی معرفی شوند. برای اعداد بهروز و مقایسه رسمی نتایج در سناریوهای یکسان از منابع زیر استفاده کنید:
- NVIDIA H200 / H200 NVL specifications
- NVIDIA RTX PRO 6000 Blackwell Server Edition
- MLPerf Inference Datacenter
- MLPerf Inference v5.1 results and code
- HPE QuickSpecs و اسناد سازگاری سرور
نسخه ویرایش: آبان ۱۴۰۵ / نوامبر ۲۰۲۶. قیمت و سازگاری نهایی قطعات نیازمند استعلام و بررسی SKU است.
HP G11
قیمت سرور HP Gen 10 | مشخصات و خرید سرور اچ پی g10
خرید سرور hp g9 | قیمت سرور اچ پی G9
HP G8