[ad_1]
ابرکامپیوتر فرانتیر (Frontier) تجهیزبه پردازندههای AMD با پردازشگرهای گرافیکی Instinct MI250X برای آموزش یک تریلیون پارامتر در یک مدل زبانی بزرگ (LLM) منفعت گیری شده و راندمان زیاد بالایی در این عرصه داشته است.
فرانتیر قدرتمندترین ابرکامپیوتر جهان و تنها دستگاه با قوت رایانش اگزامقیاس است. این دستگاه از پردازندههای سری Epyc و پردازشگرهای گرافیکی سری Instinct شرکت AMD منفعت میبرد که با پشتیبانی آنها عملکردهای با پردازش بالا را بهتر انجام میدهد و این چنین بهگفتن دومین ابرکامپیوتر کارآمد روی کره زمین شناخته میبشود. اکنون بر پایه گزارش جدیدی، ابررایانه Frontier انگارً به قابلیت آموزش یک تریلیون پارامتر از طریق رویکرد «تنظیم ابرپارامترها» دست یافته است که معیار حدیدی در صنعت خود به حساب میآید.
مسئله قابلدقت دیگر این که فرانتیر در آزمایشهای خود فقط از ۳۰۰۰ شتابدهنده هوش مصنوعی MI250X منفعت برده است، در حالی که مجموعاً دارای ۳۷ هزار شتابدهنده است.
نقطهعطف بزرگ ابرکامپیوتر فرانتیر
محققان در پژوهش خود مینویسند:
«برای ۲۲ میلیارد، ۱۷۵ میلیارد و ۱ تریلیون پارامتر، ما بهترتیب به ۳۸.۳۸ درصد، ۳۶.۱۴ درصد و ۳۱.۹۶ درصد از توان عملیاتی GPU دست یافتهایم. برای آموزش با ۱۷۵ میلیارد و ۱ تریلیون پارامتر نیز بهترتیب ۱۰۲۴ و ۳۰۷۲ پردازنده MI250X منفعت گیری شده و راندمان مقیاسپذیری ضعیف را به ۱۰۰ درصد رساندهایم. این چنین برای این دو مدل به راندمان مقیاس پذیری قوی ۸۹ و ۸۷ درصد دست یافتیم.»
رکورد تازه فرانتیر با استراتژیهای مؤثری که برای آموزش مدلهای زبان بزرگ (LLM) بهکارگرفتهشده و این چنین منفعت گیری از سختافزار داخلی بهبهترین نحو ممکن بهدستآمده است. این تیم در آزمایشهای خود با منفعت گیری از ۲۲ میلیارد، ۱۷۵ میلیارد و ۱ تریلیون پارامتر به نتایج قابلتوجهی دست یافته است.
آینده امیدوارکنندهای برای سرورها و قسمت مرکز داده در انتظار است و مسئله مهم فرد دیگر که باید به آن دقت داشته باشیم این است که فرانتیر از سختافزاری منفعت گیری میکند که نسبتاً تازه نیست. با پیشرفت مداوم در قسمت هوش مصنوعی مولد، بدیهی است که بازارها به قوت محاسباتی بیشتری نیاز دارند و بههمین علت است که پیشرفتهای سختافزاری طراحیشده برای این قسمت، برای پیشرفت به نسل بعدی مهم می باشند.
[ad_2]
منبع
