دل پرو مکس با جی‌بی۱۰

دل پرو مکس با جی‌بی‌۱۰، سوپ‌رچیپ ان‌ویدیا جی‌بی‌۱۰ گریس بلک‌ول را با نظم مهندسی سازمانی دل ترکیب می‌کند و یک ایستگاه کاری هوش مصنوعی داخلی (on-premises) می‌سازد که برای سازمان‌هایی طراحی شده که نمی‌توانند در مورد انطباق، قابلیت اطمینان یا پشتیبانی بلندمدت سازش کنند. این اولین سیستم در اکوسیستم ان‌ویدیا جی‌بی‌۱۰ است که گواهی TAA (قانون توافق‌نامه‌های تجاری) را کسب کرده و پلتفرم را برای کانال‌های تأمین فدرال، دفاعی و بخش دولتی که نیاز به انطباق تأییدشده زنجیره تأمین دارند، باز می‌کند.

فراتر از انطباق، پرو مکس برای بارهای کاری مداوم و بدون نظارت مهندسی شده است: یک آداپتور تأمین برق USB-C با توان ۲۸۰ وات—بسیار بالاتر از حد معمول ۲۴۰ واتی این کلاس—به سیستم حاشیه حرارتی و عملکردی معناداری در طول کارهای استنتاج (inference) و تنظیم دقیق (fine-tuning) طولانی مدت می‌دهد. این قابلیت توسط یک شاسی جریان هوا از جلو به عقب پشتیبانی می‌شود که به‌طور خاص برای جلوگیری از کاهش سرعت (throttling) در طول جلسات چند ساعته تنظیم شده است.

مشخصات سخت‌افزاری

در هسته خود، پرو مکس ۱ پتافلاپ عملکرد هوش مصنوعی با دقت FP4 را از یک پردازنده ۲۰ هسته‌ای مبتنی بر آرم (۱۰ هسته عملکردی Cortex-X925 + ۱۰ هسته کارایی Cortex-A725) ارائه می‌دهد که با ۱۲۸ گیگابایت حافظه یکپارچه LPDDR5x با پهنای باند ۲۷۳ گیگابایت بر ثانیه جفت شده است. این برای اجرای استنتاج روی مدل‌هایی با حداکثر حدود ۲۰۰ میلیارد پارامتر مستقیماً روی دسکتاپ، یا تنظیم دقیق مدل‌هایی تا حدود ۷۰ میلیارد پارامتر بدون نیاز به ترک دستگاه کافی است.

اتصال‌پذیری و شبکه

یک کارت شبکه هوشمند ان‌ویدیا ConnectX-7 مجتمع با دو پورت QSFP با سرعت ۲۰۰ گیگابیت بر ثانیه، هم شبکه‌سازی درجه دیتاسنتر با توان عملیاتی بالا و هم پیوند مستقیم واحد به واحد مورد نیاز برای مقیاس‌دهی چندگره‌ای را فراهم می‌کند. اتصال‌پذیری اضافی شامل اترنت ۱۰ گیگابیت بر ثانیه (RJ-45)، وای‌فای ۷ و بلوتوث ۵.۴ است. ورودی/خروجی شامل ۳ پورت USB 3.2 Gen 2×2 Type-C (20 گیگابیت بر ثانیه) و HDMI 2.1 می‌شود. یک نشانگر LED وضعیت برق فیزیکی که در خود کابل USB-C تعبیه شده است، وضعیت برق را در یک نگاه نشان می‌دهد؛ یک اصلاح کوچک اما عمدی نسبت به سیستم‌های جی‌بی‌۱۰ با طراحی مرجع.

خوشه‌بندی دو واحدی

دو واحد پرو مکس را می‌توان مستقیماً از طریق پورت‌های ConnectX-7 آنها به هم پیوند داد تا یک خوشه منسجم ۲ گرهی تشکیل شود که در مجموع به ۲۵۶ گیگابایت حافظه یکپارچه و حدود ۲ پتافلاپ محاسبات FP4 می‌رسد - حاشیه کافی برای اجرای مدل‌های کلاس حدود ۴۰۰ میلیارد پارامتر به‌طور کامل داخلی (on-premises). این پیوند به‌طور رسمی پشتیبانی می‌شود، توسط فروشنده تضمین شده و تحت شرایط گارانتی سازمانی دل قرار دارد و راهنمای استقرار منتشرشده شامل میزبانی هماهنگ مدل زبانی بزرگ (LLM) با دو واحد است.

معماری حافظه و مقیاس‌پذیری

پلتفرم هوش مصنوعی سازمانی و نرم‌افزار

پرو مکس با سیستم عامل ان‌ویدیا DGX OS و پشته نرم‌افزاری کامل هوش مصنوعی ان‌ویدیا از پیش نصب‌شده و تأییدشده عرضه می‌شود—CUDA، JupyterLab، Docker و AI Workbench بلافاصله پس از باز کردن جعبه آماده استفاده هستند. دل دسترسی به ان‌ویدیا پلی‌بوک‌ها را به‌همراه ان‌ویدیا سینک برای نظارت و کنترل از راه دور سیستم از طریق لپ‌تاپ در همان شبکه، ارائه می‌دهد. پلی‌بوک‌ها کتابخانه‌ای از دستورالعمل‌های گردش کار از پیش ساخته‌شده و راهنما برای تحلیل اسناد، تولید تصویر و اتوماسیون گردش کار هستند. دل علاوه بر این، معماری‌های استقرار چندگره‌ای مستند—شامل مسیریابی پرس‌وجوی معنایی (semantic query routing) و میزبانی هماهنگ مدل زبانی بزرگ (LLM) با دو واحد—را منتشر می‌کند تا تیم‌ها بتوانند به‌جای شروع از صفر، با یک طرح تأییدشده از نمونه اولیه به پیکربندی تولید منتقل شوند.

انطباق فدرال و سازمانی

پرو مکس دارای گواهی TAA است و آن را برای تأمین سازمان‌های فدرال ایالات متحده و پیمانکاران دولتی واجد شرایط می‌کند—امتیازی که سیستم‌های جی‌بی‌۱۰ مصرف‌گرامحور از آن برخوردار نیستند. امنیت ریشه‌دار در سخت‌افزار از طریق TPM 2.0 و بوت امن (secure boot) ارائه می‌شود که از معماری‌های بی‌اعتمادی مطلق (zero-trust) پشتیبانی می‌کند و بررسی‌های انطباق منطبق با FISMA را ساده‌تر می‌کند. از آنجایی که استنتاج و تنظیم دقیق به‌طور کامل داخلی (on-premises) انجام می‌شود، داده‌های حساس یا طبقه‌بندی‌شده هرگز نیازی به ترک تأسیسات ندارند و این سیستم را برای بارهای کاری دفاعی، بهداشتی، حقوقی و مالی با الزامات سختگیرانه اقامت داده (data-residency) بسیار مناسب می‌کند.

پشتیبانی و خدمات سازمانی

هر پرو مکس توسط پشتیبانی حرفه‌ای پلاس برای رایانه‌های شخصی (ProSupport Plus for PCs) پشتیبانی می‌شود: دسترسی اولویت‌دار ۲۴/۷ به متخصصان فنی، تعمیر در محل در روز کاری بعدی، تشخیص خودکار مشکلات سخت‌افزاری و پوشش خسارت تصادفی. برای تیم‌هایی که فراتر از یک واحد مقیاس می‌کنند، دل همچنین خدمات مشاوره و استقرار متخصص (residency services)—متخصصان تعبیه‌شده‌ای که در استقرار و هماهنگی (orchestration) کمک می‌کنند—به‌همراه برنامه‌های آموزشی رسمی برای تسریع آمادگی تیم داخلی ارائه می‌دهد.

اکوسیستم و مقیاس‌پذیری آینده

پرو مکس با اکوسیستم گسترده‌تر کارخانه هوش مصنوعی دل (Dell AI Factory) همسو است: بارهای کاری نمونه‌سازی شده روی یک واحد دسکتاپ منفرد، طوری طراحی شده‌اند که به پیکربندی دو واحدی پیوندخورده و در نهایت به زیرساخت بزرگتر مرکز داده دل منتقل شوند، بدون اینکه نیاز به بازنویسی پشته نرم‌افزاری زیربنایی باشد. این به تیم‌ها یک مسیر رشد واضح و کم‌اصطکاک می‌دهد زیرا نیازهای مدل و بار کاری در طول زمان افزایش می‌یابد.