انتخاب کارت گرافیک هوش مصنوعی: راهنمای VRAM هر کار

می‌خواهید با هوش مصنوعی کار کنید — تصویر بسازید، یک مدل زبانی اجرا کنید، یا یک LoRA آموزش بدهید — اما نمی‌دانید کدام کارت گرافیک را باید اجاره کنید. مهم‌ترین عددی که در انتخاب کارت گرافیک هوش مصنوعی تعیین‌کننده است، مقدار VRAM (حافظهٔ اختصاصی کارت) است. اگر VRAM کم بیاورید کار اصلاً اجرا نمی‌شود؛ اگر بیش از حد بگیرید، بی‌دلیل پول ساعتی می‌دهید. این راهنما به شما می‌گوید هر کار چقدر VRAM می‌خواهد و کدام کارت برایش صرفه دارد.

در جی‌پی‌یو ماشین‌ها ساعتی و با پرداخت تومانی اجاره می‌شوند و قیمت هنگام اجاره قفل می‌شود، پس می‌توانید دقیقاً کارتی را بردارید که کارتان لازم دارد و نه یک ذره بیشتر. در ادامه سه کار پرتکرار — ساخت تصویر، اجرای مدل زبانی و آموزش مدل — را جدا می‌کنیم و برای هرکدام یک پیشنهاد اقتصادی و یک پیشنهاد سریع با قیمت زنده می‌دهیم.

VRAM چیست و چرا همه‌چیز به آن برمی‌گردد

VRAM حافظهٔ روی خود کارت گرافیک است. مدل هوش مصنوعی و داده‌هایی که پردازش می‌شوند باید کامل داخل این حافظه جا شوند. اگر مدل بزرگ‌تر از VRAM باشد، با خطای معروف CUDA out of memory روبه‌رو می‌شوید و کار متوقف می‌شود.

سرعت پردازندهٔ کارت مهم است، اما نقش دوم را دارد. اول باید کار داخل حافظه جا شود؛ بعد سرعت تعیین می‌کند چقدر طول می‌کشد. برای همین معیار اصلی ما در این راهنما مقدار VRAM است، نه صرفاً نسل کارت. برای دیدن VRAM هر ماشین بعد از اتصال، این دستور را بزنید:

nvidia-smi

ستون Memory-Usage مقدار کل و مصرف‌شدهٔ حافظه را نشان می‌دهد.

پیش‌نیازها

پیش از هر چیز به یک حساب جی‌پی‌یو نیاز دارید؛ اگر هنوز ندارید از صفحهٔ ثبت‌نام شروع کنید. سپس باید حداقل یک کلید عمومی SSH در حساب‌تان ثبت شده باشد و کیف پول‌تان به اندازهٔ یک ساعت از نرخ ماشینی که برمی‌دارید موجودی داشته باشد (شارژ با کارت به کارت، از ۵۰ هزار تومان به بالا).

اگر این مراحل برایتان تازه است، پست شروع اجاره GPU: اولین ماشین در ۱۰ دقیقه کل این کارها را قدم‌به‌قدم نشان می‌دهد. یک نکتهٔ مهم: دیسک ماشین با حذف آن پاک می‌شود، پس خروجی‌تان را قبل از حذف دانلود کنید.

انتخاب کارت گرافیک هوش مصنوعی بر اساس کار شما

سه دستهٔ کاری با نیاز VRAM کاملاً متفاوت داریم. جدول ذهنی ساده این است: ساخت تصویر معمولی با ۱۲ گیگابایت راه می‌افتد، مدل‌های زبانی متوسط و FLUX روی ۱۶ تا ۲۴ گیگابایت راحت‌اند، و آموزش مدل یا مدل‌های زبانی بزرگ به ۲۴ گیگابایت و بالاتر نیاز دارند. حالا هر کدام را جدا می‌بینیم.

ساخت تصویر: ۱۲ تا ۲۴ گیگابایت

برای Stable Diffusion (نسخهٔ SDXL) با رابط‌هایی مثل ComfyUI، SD WebUI Forge یا Fooocus، یک کارت ۱۲ گیگابایتی کاملاً کافی است. تصویرهای ۱۰۲۴ در ۱۰۲۴ را بدون دردسر می‌سازید و پیشنهاد اقتصادی همین‌جاست.

مدل FLUX.1 سنگین‌تر است. نسخهٔ کوانتیزه (fp8) روی ۱۲ گیگابایت اجرا می‌شود، اما راحتی واقعی روی ۱۶ تا ۲۴ گیگابایت است؛ آن‌جا مدل کامل جا می‌شود و لازم نیست منتظر جابه‌جایی حافظه بمانید. اگر ویدیو (مثلاً با Wan2GP) هم مدنظرتان است، مستقیم سراغ ۲۴ گیگابایت بروید.

• پیشنهاد اقتصادی: RTX 3060 با ۱۲ گیگابایت — در زمان نوشتن این مطلب از حدود ۱۵ هزار تومان در ساعت.
• پیشنهاد میانه: RTX A4000 با ۱۶ گیگابایت — در زمان نوشتن این مطلب از حدود ۲۲ هزار تومان در ساعت.

قالب ComfyUI یا SD WebUI Forge روی ماشین از پیش نصب است؛ کافی است هنگام اجاره همان قالب را انتخاب کنید و بعد از «آماده» شدن، از دکمهٔ «پنل ماشین» رابط وب را باز کنید.

اجرای مدل زبانی: به اندازهٔ حجم مدل حساب کنید

برای اجرای مدل زبانی (LLM) با Ollama، vLLM یا llama.cpp، قاعدهٔ سرانگشتی با کوانتیزهٔ ۴ بیتی (Q4) این است:

• مدل ۷ تا ۸ میلیاردی (7B/8B): حدود ۶ تا ۸ گیگابایت — روی کارت ۱۲ گیگابایتی راحت.
• مدل ۱۴ میلیاردی (14B): حدود ۱۰ تا ۱۲ گیگابایت — کارت ۱۶ گیگابایتی مطمئن‌تر است.
• مدل ۳۲ میلیاردی (32B): حدود ۲۰ گیگابایت — کارت ۲۴ گیگابایتی.
• مدل ۷۰ میلیاردی (70B): حدود ۴۰ گیگابایت و بالاتر — به یک ماشین چندکارته یا کارت‌های خیلی بزرگ نیاز دارد.

به این اعداد کمی حاشیه برای طول متن (context) اضافه کنید. شروع سریع با Ollama و یک مدل ۷ میلیاردی این‌قدر ساده است:

ollama run qwen2.5:7b

بار اول مدل (حدود ۵ گیگابایت) دانلود می‌شود و چون ماشین‌ها خارج از ایران‌اند، این دانلود با سرعت گیگابیتی و مستقل از اینترنت شما انجام می‌شود.

• پیشنهاد اقتصادی برای مدل‌های تا ۱۴B: RTX 3060 (۱۲ گیگ) یا RTX A4000 (۱۶ گیگ).
• پیشنهاد برای مدل‌های ۳۲B: RTX 3090 با ۲۴ گیگابایت — در زمان نوشتن این مطلب از حدود ۴۱ هزار تومان در ساعت.

آموزش مدل: این‌جا VRAM را دست‌ودل‌بازانه بگیرید

آموزش (train) از اجرا سنگین‌تر است، چون علاوه بر خود مدل، گرادیان‌ها و حالت بهینه‌ساز هم باید در حافظه جا شوند.

برای آموزش LoRA روی تصویر با Kohya's GUI (مدل‌های SDXL)، کارت ۱۶ گیگابایتی نقطهٔ شروع خوبی است و ۲۴ گیگابایت خیال‌تان را راحت می‌کند. برای LoRA روی FLUX با قالب Flux Gym، حداقل ۱۲ گیگابایت لازم است اما تجربهٔ روان روی ۲۴ گیگابایت است؛ ابزار Ostris AI Toolkit عملاً ۲۴ گیگابایت می‌خواهد.

برای fine-tune مدل زبانی با روش QLoRA (مثلاً با Unsloth Studio یا Axolotl)، یک مدل ۷ تا ۸ میلیاردی روی کارت ۲۴ گیگابایتی آموزش‌پذیر است. مدل‌های بزرگ‌تر به حافظهٔ بیشتر یا چند کارت نیاز دارند.

• پیشنهاد اقتصادی: RTX 3090 (۲۴ گیگ) — در زمان نوشتن این مطلب از حدود ۴۱ هزار تومان در ساعت.
• پیشنهاد سریع: RTX 4090 (۲۴ گیگ، هم‌حجم اما به‌مراتب سریع‌تر) — در زمان نوشتن این مطلب از حدود ۹۲ هزار تومان در ساعت. برای آموزش، سرعت بیشتر یعنی ساعت کمتر و گاهی هزینهٔ کل کمتر.

می‌توانید قیمت روز همهٔ این کارت‌ها را با فیلتر مدل و حافظه در بازار GPU ببینید و ارزان‌ترین ماشین موجود را بردارید.

اگر به مشکل خوردید

• خطای CUDA out of memory: مدل در VRAM جا نشده. یک کوانتیزهٔ سبک‌تر (مثلاً Q4 به‌جای Q8) بردارید، اندازهٔ batch یا رزولوشن را کم کنید، یا ماشین را متوقف کرده و کارت با VRAM بیشتر اجاره کنید.
• مدل خیلی کند اجرا می‌شود: احتمالاً بخشی از مدل به RAM سیستم سرریز کرده (offload). یعنی VRAM کم است؛ سراغ کارت بزرگ‌تر بروید.
• دانلود مدل نیمه‌کاره ماند: دستور دانلود (ollama run یا دانلود از Hugging Face) را دوباره اجرا کنید؛ معمولاً از همان‌جا ادامه می‌دهد.
• رابط وب باز نمی‌شود: چند لحظه صبر کنید تا وضعیت ماشین «آماده» شود؛ لینک Jupyter و دکمهٔ پنل تازه آن‌وقت فعال می‌شوند.

هزینه و صرفه‌جویی

چون هزینه دقیقه‌ای از کیف پول کم می‌شود، ماشین متوقف‌شده پولی نمی‌گیرد. کارت را متناسب با کار انتخاب کنید: برای یک بعدازظهر ساخت تصویر با SDXL، کارت ۱۲ گیگابایتی چند ساعت کار می‌کند و کل هزینه‌اش کمتر از یک وعده غذاست. برای آموزش، کارت سریع‌تر بگیرید چون ساعت کمتری درگیر می‌شوید. بعد از پایان کار حتماً خروجی را دانلود و ماشین را حذف کنید.

قدم بعدی

حالا که می‌دانید چه کارتی می‌خواهید، یک ماشین بردارید و شروع کنید. اگر کارتان ساخت تصویر است، از قالب ComfyUI شروع کنید؛ اگر مدل زبانی می‌خواهید، Ollama سریع‌ترین راه است. برای مرور کامل مسیر اجاره از صفر، دوباره سری به شروع اجاره GPU: اولین ماشین در ۱۰ دقیقه بزنید.

پرسش‌های متداول

برای اجرای Stable Diffusion چقدر VRAM لازم است؟

برای SDXL یک کارت ۱۲ گیگابایتی کافی است و تصویرهای ۱۰۲۴ در ۱۰۲۴ را بدون مشکل می‌سازد. اگر سراغ FLUX.1 می‌روید، ۱۶ تا ۲۴ گیگابایت تجربهٔ راحت‌تری می‌دهد.

چه کارتی برای اجرای مدل زبانی ۷ میلیاردی کافی است؟

یک مدل ۷ تا ۸ میلیاردی با کوانتیزهٔ ۴ بیتی حدود ۶ تا ۸ گیگابایت VRAM می‌خواهد، پس کارت ۱۲ گیگابایتی مثل RTX 3060 راحت جواب می‌دهد. برای مدل ۳۲ میلیاردی به ۲۴ گیگابایت (مثل RTX 3090) نیاز دارید.

برای آموزش LoRA چه کارتی بگیرم؟

برای LoRA روی SDXL کارت ۱۶ گیگابایتی نقطهٔ شروع است و ۲۴ گیگابایت مطمئن‌تر. برای LoRA روی FLUX حداقل ۱۲ گیگابایت لازم است اما روی ۲۴ گیگابایت روان‌تر است. برای fine-tune مدل زبانی با QLoRA، کارت ۲۴ گیگابایتی مثل RTX 3090 یا RTX 4090 مناسب است.

RTX 3090 بگیرم یا RTX 4090؟

هر دو ۲۴ گیگابایت VRAM دارند، پس هر کاری روی یکی جا شود روی دیگری هم جا می‌شود. RTX 4090 به‌مراتب سریع‌تر است و برای آموزش یا کارهای سنگین صرفه دارد چون ساعت کمتری درگیر می‌شوید؛ برای کارهای سبک‌تر، RTX 3090 ارزان‌تر است.

چطور بفهمم مدلم در VRAM جا می‌شود؟

قاعدهٔ سرانگشتی: حجم مدل کوانتیزه‌شده روی دیسک، به‌علاوهٔ کمی حاشیه برای context، تقریباً همان مقدار VRAM لازم است. اگر با خطای CUDA out of memory روبه‌رو شدید، یعنی جا نشده و باید کوانتیزهٔ سبک‌تر یا کارت بزرگ‌تر بردارید.

تصویر کاور: «Nvidia AD102 — GeForce RTX 4090» اثر Fritzchens Fritz، از ویکی‌مدیا کامنز، لایسنس CC0.