ایستگاه کاری هوش مصنوعی NVIDIA DGX Station

انویدیا در ۱۷ مارس ۲۰۲۶، DGX Station را به عنوان سیستم مرجع میزکاری برای پلتفرم NVIDIA GB300 Grace Blackwell Superchip معرفی کرد - طراحی و تأیید شده مستقیماً توسط انویدیا برای اجرای محلی مدل‌های تریلیون پارامتری و تولید تحت لیسانس توسط شرکای سخت‌افزاری انویدیا.

مشخصات سخت‌افزاری

DGX Station حول یک NVIDIA Grace CPU Superchip ساخته شده است - ۷۲ هسته‌ی Arm Neoverse V2 و ۴۹۶ گیگابایت حافظه LPDDR5X - که با یک NVIDIA Blackwell Ultra GPU با ۲۵۲ گیگابایت حافظه GPU از نوع HBM3e جفت شده و از طریق NVLink-C2C به یک حافظه‌ی همگن ۷۴۸ گیگابایتی یکپارچه شده است. تا ۷ پارتیشن مجزای MIG به یک ایستگاه امکان می‌دهد تا چندین تیم یا بارکاری را همزمان بدون رقابت سرویس‌دهی کند. سیستم دارای ۴ اسلات ذخیره‌سازی M.2 2280 PCIe 5.0 x4 NVMe، یک سوپرنیک دوپورته NVIDIA ConnectX-8 400G و اسلات‌های توسعه PCIe 5.0 برای یک GPU اختیاری NVIDIA RTX PRO اختصاص‌یافته به خروجی نمایش و بصری‌سازی است.

سرور هوش مصنوعی محلی برای استفاده تجاری

DGX Station برای عملکرد به عنوان منبع محلی اشتراکی هوش مصنوعی طراحی شده است. چندین کارمند می‌توانند در طول روز کاری، وظایف پردازش اسناد - بررسی قرارداد، استخراج فاکتور، تهیه پیش‌نویس گزارش، اولویت‌بندی ایمیل - را ارسال کنند که وظایف به‌جای مسیریابی از طریق سرویس‌های ابری خارجی، به‌صورت متمرکز در محل پردازش می‌شوند.

از طریق NVIDIA NemoClaw، عامل‌های خودمختار می‌توانند به‌طور مداوم روی سیستم اجرا شوند و وظایف تکراری مانند نظارت بر صندوق ورودی یا تولید گزارش‌های زمان‌بندی‌شده را بدون نیاز به راه‌اندازی هر درخواست توسط شخص، مدیریت کنند. این امکان را فراهم می‌کند که DGX Station به‌عنوان زیرساخت مستمر هوش مصنوعی برای کسب‌وکار عمل کند و بارهای کاری پایدار اسناد را پشتیبانی نماید.

گسترش ظرفیت: خوشه‌بندی دو ایستگاهی

برای بارهای کاری که از ظرفیت یک واحد فراتر می‌روند، دو DGX Station را می‌توان از طریق پورت‌های سوپرنیک 400G ConnectX-8 داخلی آنها به هم متصل کرد که در یک حافظه‌ی همگن ۱,۴۹۶ گیگابایتی یکپارچه قابل آدرس‌دهی در هر دو ماشین ادغام می‌شوند. این مسیر ارتقای ساده‌ای برای تیم‌های در حال رشد بدون نیاز به تغییر معماری یا گردش کار فراهم می‌کند که به‌عنوان گزینه‌ی پیکربندی در مرحله تسویه‌حساب در دسترس است.

یک پلتفرم مرجع مبتنی بر نه سال توسعه DGX Station

نام DGX Station به سال ۲۰۱۷ بازمی‌گردد، زمانی که انویدیا DGX Station اصلی را به‌عنوان جایگزین میزکاری برای زیرساخت‌های هوش مصنوعی نصب‌شده در رک معرفی کرد که حول چهار GPU NVIDIA Tesla V100 ساخته شده بود. در نوامبر ۲۰۲۰، DGX Station A100 جایگزین آن شد و به چهار GPU هسته‌ی تنسور NVIDIA A100 منتقل شد و تا ۳۲۰ گیگابایت حافظه GPU را در چهار کارت جداگانه ارائه می‌داد که هر کدام نیازمند توزیع و مدیریت صریح بارهای کاری در پیکربندی چند-GPU بودند.

DGX Station فعلی که در سال ۲۰۲۶ معرفی شد، این رویکرد چند-GPU را با یک NVIDIA GB300 Grace Blackwell Ultra Superchip جایگزین می‌کند: یک حافظه‌ی همگن یکپارچه ۷۴۸ گیگابایتی که مستقیماً بین CPU و GPU از طریق NVLink-C2C به اشتراک گذاشته می‌شود، به‌جای چهار حافظه GPU جداگانه که در نرم‌افزار به هم متصل شده بودند.

مقایسه هزینه: راه‌حل‌های داخلی در مقابل APIهای ابری هوش مصنوعی

برای کسب‌وکارهای کوچک و متوسط (SMB) که روزانه حجم بالایی از اسناد را پردازش می‌کنند، تفاوت بین سیستم داخلی ثابت و صورتحساب‌دهی ابری مبتنی بر مصرف هوش مصنوعی به‌مرور زمان به‌طور قابل توجهی افزایش می‌یابد.

از آنجا که پردازش کاملاً در محل انجام می‌شود، اسناد و داده‌های تجاری به سرورهای شخص ثالث منتقل نمی‌شوند. این ملاحظه‌ای مرتبط برای سازمان‌ها در بخش‌های حقوقی، مالی یا سایر بخش‌های حساس به داده است.

خلاصه

DGX Station یک سیستم تک‌قطعه‌ای با هزینه ثابت ارائه می‌دهد که قادر به پشتیبانی از پردازش مستمر اسناد هوش مصنوعی است و با معماری مرجع انویدیا برای اجرای مدل‌های بزرگ هوش مصنوعی به‌صورت محلی ترکیب شده است. برای کسب‌وکارهای کوچک و متوسط با بارهای کاری پایدار هوش مصنوعی، این سیستم جایگزینی کم‌هزینه‌تر برای هزینه‌های مکرر هوش مصنوعی ابری ارائه می‌دهد و مسیر ارتقای مستند شده به خوشه دو ایستگاهی را فراهم می‌کند.