ابرکامپیوتر فرانتیر (Frontier) تجهیزبه پردازنده‌های AMD با پردازشگرهای گرافیکی Instinct MI250X برای آموزش یک تریلیون پارامتر در یک مدل زبانی بزرگ (LLM) منفعت گیری شده و راندمان زیاد بالایی در این عرصه داشته است.

فرانتیر قدرتمندترین ابرکامپیوتر جهان و تنها دستگاه با قوت رایانش اگزامقیاس است. این دستگاه از پردازنده‌های سری Epyc و پردازشگرهای گرافیکی سری Instinct شرکت AMD منفعت می‌برد که با پشتیبانی آن‌ها عملکردهای با پردازش بالا را بهتر انجام می‌دهد و این چنین به‌گفتن دومین ابرکامپیوتر کارآمد روی کره زمین شناخته می‌بشود. اکنون بر پایه گزارش جدیدی، ابررایانه Frontier انگارً به قابلیت آموزش یک تریلیون پارامتر از طریق رویکرد «تنظیم ابرپارامترها» دست یافته است که معیار حدیدی در صنعت خود به حساب می‌آید.

مسئله قابل‌دقت دیگر این که فرانتیر در آزمایش‌های خود فقط از 3000 شتاب‌دهنده هوش مصنوعی MI250X منفعت برده است، در حالی که مجموعاً دارای 37 هزار شتاب‌دهنده است.

نقطه‌عطف بزرگ ابرکامپیوتر فرانتیر

محققان در پژوهش خود می‌نویسند:

«برای 22 میلیارد، 175 میلیارد و 1 تریلیون پارامتر، ما به‌ترتیب به 38.38 درصد، 36.14 درصد و 31.96 درصد از توان عملیاتی GPU دست یافته‌ایم. برای آموزش با 175 میلیارد و 1 تریلیون پارامتر نیز به‌ترتیب 1024 و 3072 پردازنده MI250X منفعت گیری شده و راندمان مقیاس‌پذیری ضعیف را به 100 درصد رسانده‌ایم. این چنین برای این دو مدل به راندمان مقیاس پذیری قوی 89 و 87 درصد دست یافتیم.»

رکورد تازه فرانتیر با استراتژی‌های مؤثری که برای آموزش مدل‌های زبان بزرگ (LLM) به‌کار‌گرفته‌شده و این چنین منفعت گیری از سخت‌افزار داخلی به‌بهترین نحو ممکن به‌دست‌آمده است. این تیم در آزمایش‌های خود با منفعت گیری از 22 میلیارد، 175 میلیارد و 1 تریلیون پارامتر به نتایج قابل‌توجهی دست یافته است.

آینده امیدوارکننده‌ای برای سرورها و قسمت مرکز داده در انتظار است و مسئله مهم فرد دیگر که باید به آن دقت داشته باشیم این است که فرانتیر از سخت‌افزاری منفعت گیری می‌کند که نسبتاً تازه نیست. با پیشرفت مداوم در قسمت هوش مصنوعی مولد، بدیهی است که بازارها به قوت محاسباتی بیشتری نیاز دارند و به‌همین علت است که پیشرفت‌های سخت‌افزاری طراحی‌شده برای این قسمت، برای پیشرفت به نسل بعدی مهم می باشند.