انویدیا ماه مارچ نسل جدیدی از تراشه ها و نرم افزارهای هوش مصنوعی را برای اجرای مدل های هوش مصنوعی معرفی کرد. این اعلامیه که در کنفرانس توسعه دهندگان انویدیا در سن خوزه اعلام شد، در حالی است که سازنده تراشه به دنبال تثبیت موقعیت خود به عنوان تامین کننده اصلی شرکت های هوش مصنوعی است.
از زمانی که ChatGPT OpenAI در اواخر سال 2022 رونق گرفت، قیمت سهام انویدیا پنج برابر و فروش کل بیش از سه برابر شده است. پردازنده های گرافیکی سرور پیشرفته انویدیا برای آموزش و استقرار مدل های هوش مصنوعی بزرگ ضروری هستند. شرکت هایی مانند مایکروسافت و متا میلیاردها دلار برای خرید تراشه ها هزینه کرده اند.
نسل جدید پردازنده های گرافیکی هوش مصنوعی Blackwell نام دارد. اولین تراشه بلک ول GB200 نام دارد و اواخر امسال عرضه خواهد شد. انویدیا در حال جذب مشتریان خود با تراشه های قدرتمندتر برای تحریک سفارشات جدید است. برای مثال، شرکتها و سازندگان نرمافزار همچنان در تلاش هستند تا نسل کنونی H100s Hopper و تراشه های مشابه را به دست آورند.
جنسن هوانگ، مدیرعامل انویدیا در کنفرانس توسعه دهندگان این شرکت در کالیفرنیا گفت: “Hopper فوق العاده است، اما ما به پردازنده های گرافیکی بزرگتر نیاز داریم.”
این شرکت همچنین نرم افزار درآمدزایی به نام NIM را معرفی کرد که استقرار هوش مصنوعی را آسانتر میکند و به مشتریان دلیل دیگری برای حفظ تراشه های انویدیا نسبت به حوزه رو به رشد رقبا میدهد.
مدیران انویدیا میگویند که این شرکت کمتر به یک ارائه دهنده تراشه مزدور تبدیل میشود و بیشتر به یک ارائه دهنده پلتفرم مانند مایکروسافت یا اپل تبدیل میشود که سایر شرکتها میتوانند روی آن نرمافزار بسازند.
هوانگ گفت: “بلک ول یک تراشه نیست، نام یک پلتفرم است.”
معاون شرکت انویدیا در مصاحبه ای گفت: “محصول تجاری قابل فروش سی پی یو بود و نرم افزار همه برای کمک به مردم در استفاده از GPU به روش های مختلف بود. البته، ما هنوز این کار را انجام می دهیم. اما چیزی که واقعاً تغییر کرده این است که ما در حال حاضر واقعاً یک تجارت نرم افزار تجاری داریم.
نرم افزار جدید انویدیا اجرای برنامه ها را بر روی هر یک از پردازنده های گرافیکی انویدیا آسانتر میکند، حتی آنهایی که ممکن است برای استقرار اما نه ساختن هوش مصنوعی مناسبتر باشند.”
او در ادامه گفت: “اگر توسعه دهنده هستید، مدل جالبی دارید که میخواهید مردم از آن استفاده کنند، اگر آن را در یک NIM قرار دهید، مطمئن میشویم که روی همه پردازنده های گرافیکی ما قابل اجرا است، بنابراین به افراد زیادی دسترسی خواهید داشت.”
با بلکول، جانشین هاپر آشنا شوید
هر دو سال یکبار انویدیا معماری GPU خود را به روز می کند و جهش بزرگی در عملکرد ایجاد می کند. بسیاری از مدل های هوش مصنوعی منتشر شده در سال گذشته بر اساس معماری Hopper این شرکت (که توسط تراشه هایی مانند H100 استفاده میشد) که در سال 2022 معرفی شد، آموزش دیدند.
انویدیا میگوید پردازنده های مبتنی بر بلکول، مانند GB200، با 20 پتافلاپ در عملکرد هوش مصنوعی در مقابل 4 پتافلاپ برای H100، ارتقای عملکرد بسیار خوبی را برای شرکت های هوش مصنوعی ارائه میکنند. به گفته انویدیا، قدرت پردازش اضافی شرکت های هوش مصنوعی را قادر میسازد تا مدلهای بزرگتر و پیچیده تری را آموزش دهند.
این تراشه شامل چیزی است که انویدیا آن را «موتور ترانسفورماتور» مینامد که به طور خاص برای اجرای هوش مصنوعی مبتنی بر ترانسفورماتور، یکی از فناوری های اصلی ChatGPT ساخته شده است.
سی پی یو Blackwell بزرگ است و دو قالب جداگانه تولید شده را در یک تراشه تولید شده توسط TSMC ترکیب می کند.
همچنین به عنوان یک سرور کامل به نام GB200 NVLink 2 در دسترس خواهد بود که 72 پردازنده گرافیکی بلک ول و سایر قطعات انویدیا را که برای آموزش مدل های هوش مصنوعی طراحی شده اند، ترکیب می کند.
آمازون، گوگل، مایکروسافت و اوراکل دسترسی به GB200 را از طریق خدمات ابری به فروش خواهند رساند. GB200 دو GPU B200 Blackwell را با یک پردازنده Grace مبتنی بر Arm جفت می کند. انویدیا گفت که خدمات وب آمازون یک خوشه سرور با 20000 تراشه GB200 ایجاد خواهد کرد.
انویدیا گفت که این سیستم می تواند یک مدل با پارامتر 27 تریلیون را مستقر کند. این حتی از بزرگترین مدل ها، مانند GPT-4 که طبق گزارش ها 1.7 تریلیون پارامتر دارد، بسیار بزرگتر است. بسیاری از محققان هوش مصنوعی معتقدند مدل های بزرگتر با پارامترها و داده های بیشتر میتوانند قابلیت های جدیدی را باز کنند.
انویدیا هزینه ای برای GB200 جدید یا سیستم هایی که در آن استفاده می شود ارائه نکرده است. بر اساس برآوردهای تحلیلگران، H100 مبتنی بر هاپر انویدیا بین 25000 تا 40000 دلار برای هر تراشه قیمت دارد، با کل سیستم هایی که قیمت آن به 200000 دلار می رسد.
میکروسرویس استنتاج انویدیا
انویدیا همچنین اعلام کرد که محصول جدیدی به نام NIM که مخفف Nvidia Inference Microservice است را به اشتراک نرم افزار سازمانی Nvidia اضافه می کند.
NIM استفاده از پردازنده های گرافیکی قدیمی تر انویدیا را برای استنتاج یا فرآیند اجرای نرم افزار هوش مصنوعی آسانتر میکند و به شرکت ها اجازه میدهد تا به استفاده از صدها میلیون پردازنده گرافیکی انویدیا که قبلاً دارند، ادامه دهند.
استنتاج به قدرت محاسباتی کمتری نسبت به آموزش اولیه یک مدل جدید هوش مصنوعی نیاز دارد. NIM به شرکت هایی که می خواهند مدل های هوش مصنوعی خود را اجرا کنند، به جای خرید دسترسی به نتایج هوش مصنوعی به عنوان یک سرویس از شرکت هایی مانند OpenAI، امکان می دهد.
استراتژی این است که مشتریانی که سرورهای مبتنی بر انویدیا می خرند، برای ثبت نام در شرکت انویدیا که برای هر GPU در سال 4500 دلار برای مجوز هزینه دارد، ثبت نام کنند.
انویدیا با شرکت های هوش مصنوعی مانند مایکروسافت یا Hugging Face همکاری خواهد کرد تا مطمئن شود که مدل های هوش مصنوعی آنها بر روی تمام تراشه های سازگار انویدیا تنظیم شده اند. سپس، با استفاده از NIM، توسعه دهندگان میتوانند به طور موثر مدل را بر روی سرورهای خود یا سرورهای انویدیا مبتنی بر ابر بدون فرآیند پیکربندی طولانی اجرا کنند.
معاون انویدیا گفت: “در کد خود، جایی که با OpenAI تماس میگرفتم، یک خط کد را جایگزین میکنم تا به جای آن به NIM که از انویدیا دریافت کردهام اشاره کنم.”
انویدیا میگوید این نرم افزار همچنین به هوش مصنوعی کمک میکند تا به جای روی سرورهای ابری، روی لپتاپ های مجهز به GPU اجرا شود.
دیدگاهتان را بنویسید