اپل در تازه ترین پست وبلاگ تحقیقاتی خود پرده از قوت واقعی تراشه M5 در اجرای مدل‌های زبانی بزرگ برداشت. این گزارش که بر پایه فریم‌ورک اختصاصی و متن‌باز اپل یعنی MLX تهیه شده، مشخص می کند که مک‌بوک‌های تجهیزبه M5 در پردازش‌های سنگین هوش مصنوعی، جهش عملکردی خیره‌کننده‌ای نسبت به نسل قبل دارند.

بر پایه تحلیل‌های تازه اپل، تراشه M5 در بنچمارک «زمان زمان موردنیاز تا اغاز اولین توکن» (TTFT) عملکردی خیره‌کننده دارد و بین ۳.۳ تا ۴.۱ برابر سریع تر از M4 عمل می‌کند. TTFT همان لحظه‌ای است که شما دکمه اینتر را می‌زنید و چشم به راه می‌مانید تا هوش مصنوعی اغاز به نوشتن کند. این فرایند زیاد وابسته به محاسبات است و نیاز به ضرب ماتریس‌های سنگین دارد.

اپل برای حل این قضیه، شتاب‌دهنده‌های عصبی GPU جدیدی را در M5 تعبیه کرده که عملیات ضرب ماتریس را به طور اختصاصی انجام خواهند داد. مطابق نمودارهای اپل، نتایج زیر برای مدل‌های هوش مصنوعی گوناگون به دست آمده است:

• مدل Qwen 14B: زمان پردازش از ۳۵.۱۵ ثانیه در M4 به ۸.۶۶ ثانیه در M5 افت یافته است (۴.۱ برابر سریع تر).
• مدل Qwen 8B: بهبود از ۱۸.۶ ثانیه به ۴.۶۹ ثانیه (۴ برابر سریع تر).
• مدل سنگین Qwen 30B: بهبود از ۹.۳۷ ثانیه به ۲.۶۶ ثانیه (۳.۵ برابر سریع تر).

این یعنی تأخیر آزاردهنده‌ای که زمان کار با مدل‌های لوکال روی لپ‌تاپ حس می‌کردید، عملاً حذف شده است.

افزایش شدت پردازش هوش مصنوعی در تراشه M5 اپل

برخلاف مرحله اول (TTFT)، فرایند تشکیل کلمات بعدی (تایپ‌کردن کامل جواب) به حافظه لپ‌تاپ شما وابسته است. در این مرحله، شدت پردازنده اهمیت کمتری دارد و همه چیز به این بستگی دارد که اطلاعات چه مقدار سریع می‌توانند از رم به پردازنده منتقل شوند.

تراشه M5 دارای پهنای باند حافظه ۱۵۳ گیگابایت‌برثانیه است که نسبت به ۱۲۰ گیگابایت‌برثانیه در M4، نزدیک به ۲۸ درصد افزایش داشته است. دقیقاً به همین علت، شدت تشکیل متن نیز در بنچمارک‌ها بین ۱.۱۹ تا ۱.۲۷ برابر (نزدیک به ۱۹ تا ۲۷ درصد) بهبود یافته است.

در جدول زیر، جزئیات دقیق تست‌های انجام‌شده روی مک‌بوک پرو با ۲۴ گیگابایت رم را مشاهده می‌کنید:

مسئله دلنشین اینجاست که مک‌بوک پرو M5 با ۲۴ گیگابایت رم توانسته مدل سنگین ۳۰ میلیارد پارامتری را با مصرف ۱۷.۳۱ گیگابایت حافظه اجرا کند، درحالی‌که تا این مدت فضای کافی برای سیستم‌عامل باقی می‌ماند.