حافظه HBM چیست و چرا هوش مصنوعی مدرن بدون آن رشد نمی‌کند؟

فهرست مطالب

• حافظه HBM چیست؟
• تفاوت HBM با حافظه معمولی (GDDR و DDR)
• چرا هوش مصنوعی به HBM نیاز دارد؟
• نسل‌های HBM؛ از HBM3E تا HBM4
• بازار HBM؛ چه شرکت‌هایی این حافظه را می‌سازند؟
• محدودیت‌ها و چالش‌های تولید HBM
• نکات کلیدی
• جمع‌بندی
• سؤالات متداول

حافظه HBM چیست؟

HBM مخفف High Bandwidth Memory یا حافظه با پهنای‌باند بالا است. این حافظه به‌جای قرارگیری روی مادربرد در کنار پردازنده، به‌صورت چند لایه (Stack) روی همان بسته‌بندی تراشه اصلی (GPU) نصب می‌شود.

این نزدیکی فیزیکی باعث می‌شود مسیر انتقال داده بین حافظه و پردازنده بسیار کوتاه‌تر از رم‌های معمولی باشد. نتیجه، پهنای‌باند بسیار بالاتر و مصرف انرژی کمتر به ازای هر بیت داده است.

هر Stack حافظه HBM از چند لایه تراشه DRAM تشکیل شده که با فناوری اتصال عمودی (TSV یا Through-Silicon Via) به هم متصل می‌شوند.

تفاوت HBM با حافظه معمولی (GDDR و DDR)

همان‌طور که از جدول بالا مشخص است، HBM برای رسیدن به بالاترین پهنای‌باند ممکن طراحی شده، حتی اگر هزینه تولید آن بیشتر باشد.

چرا هوش مصنوعی به HBM نیاز دارد؟

مدل‌های زبانی بزرگ (LLM) مثل GPT یا Gemini، در هر ثانیه باید میلیاردها پارامتر را از حافظه بخوانند و پردازش کنند. اگر سرعت انتقال داده بین حافظه و پردازنده کم باشد، GPU با وجود قدرت پردازشی بالا، بیکار می‌ماند و منتظر رسیدن داده از حافظه است. این پدیده را در صنعت «دیوار حافظه» یا Memory Wall می‌نامند.

HBM دقیقاً همین گلوگاه را برطرف می‌کند. به همین دلیل، تقریباً تمام شتاب‌دهنده‌های AI پیشرفته امروز از جمله Nvidia H100، H200 و B200 و همچنین تراشه‌های AMD MI300 از HBM استفاده می‌کنند.

نکته مهم این است که ظرفیت HBM هم به‌اندازه سرعت آن اهمیت دارد؛ مدل‌های بزرگ‌تر به حافظه بیشتری برای نگه‌داشتن پارامترها روی خود GPU نیاز دارند، بدون اینکه مجبور باشند مدام از حافظه کندتر سیستم داده بخوانند.

نسل‌های HBM؛ از HBM3E تا HBM4

فناوری HBM هر چند سال یک نسل جدید عرضه می‌کند که هم سرعت و هم ظرفیت را افزایش می‌دهد.

HBM3E؛ نسل فعلی صنعت

HBM3E که امروز پایه اصلی شتاب‌دهنده‌های نسل Blackwell شرکت Nvidia است، در پیکربندی ۱۲ لایه به ظرفیت ۳۶ گیگابایت و پهنای‌باندی در حدود ۱.۲ ترابایت بر ثانیه در هر Stack می‌رسد.

HBM4؛ نسل بعدی

استاندارد HBM4 با دوبرابر کردن عرض رابط حافظه به ۲۰۴۸ بیت (در برابر ۱۰۲۴ بیت نسل قبل) و افزایش تعداد کانال‌ها، پهنای‌باندی بیش از ۲ ترابایت بر ثانیه در هر Stack ارائه می‌کند. برخی پیکربندی‌های پیشرفته آن حتی به حدود ۳.۳ ترابایت بر ثانیه هم می‌رسند.

طبق گزارش‌های صنعتی، تولید انبوه HBM4 در سال ۲۰۲۶ توسط سامسونگ، اس‌کی‌هاینیکس و Micron آغاز شده و این نسل برای پلتفرم‌های آینده مثل Nvidia Rubin و AMD MI455X طراحی شده است.

HBM4E؛ گام بعدی که زودتر از انتظار رسید

سامسونگ در اردیبهشت ۱۴۰۵ (می ۲۰۲۶) نمونه‌های اولیه HBM4E را با پهنای‌باندی حدود ۳.۶ ترابایت بر ثانیه در هر Stack و سرعت پین تا ۱۶ گیگابیت بر ثانیه به مشتریان اصلی خود عرضه کرد؛ این حرکت چند ماه زودتر از رقبا انجام شد.

بازار HBM؛ چه شرکت‌هایی این حافظه را می‌سازند؟

تولید HBM در انحصار سه شرکت بزرگ کره‌ای و آمریکایی قرار دارد:

• اس‌کی‌هاینیکس (SK Hynix): به گزارش Counterpoint Research، این شرکت با حدود ۵۷ درصد سهم درآمدی، رهبر بازار جهانی HBM است.
• سامسونگ (Samsung): با سهمی نزدیک به ۲۲ درصد، دومین تأمین‌کننده بزرگ است و در نسل HBM4E پیشتاز شده.
• مایکرون (Micron): با حدود ۲۱ درصد سهم بازار، سومین بازیگر اصلی است.

این سه شرکت به‌تنهایی بیش از ۹۰ درصد بازار HBM جهان را در اختیار دارند؛ همین انحصار باعث شده تأمین HBM به یکی از مهم‌ترین گلوگاه‌های صنعت هوش مصنوعی تبدیل شود.

محدودیت‌ها و چالش‌های تولید HBM

تولید HBM از نظر فنی بسیار پیچیده‌تر از رم معمولی است و همین موضوع چند چالش جدی ایجاد کرده:

• ظرفیت تولید محدود: رشد سریع تقاضای مراکز داده هوش مصنوعی باعث شده تأمین‌کنندگان با کمبود ظرفیت مواجه شوند و برخی گزارش‌ها از بحران عرضه حافظه تا دو سال آینده خبر می‌دهند.
• افزایش قیمت: به‌دلیل همین کمبود عرضه، قیمت DRAM سرور در برخی گزارش‌ها تا ۶۰ تا ۷۰ درصد رشد کرده است.
• پیچیدگی بسته‌بندی: چیدن لایه‌های DRAM روی هم و اتصال آن‌ها با فناوری TSV، نرخ خرابی (Yield) پایین‌تری نسبت به تولید رم معمولی دارد.
• وابستگی به چند تأمین‌کننده: تمرکز تولید در دست سه شرکت، ریسک زنجیره تأمین را برای سازندگان GPU افزایش می‌دهد.

نکات کلیدی

• HBM حافظه‌ای پرسرعت و لایه‌لایه است که مستقیماً روی بسته‌بندی GPU نصب می‌شود.
• پهنای‌باند بالای HBM، گلوگاه معروف به «دیوار حافظه» در پردازش هوش مصنوعی را برطرف می‌کند.
• نسل فعلی صنعت HBM3E است؛ نسل بعدی یعنی HBM4 از سال ۲۰۲۶ وارد تولید انبوه شده است.
• سه شرکت اس‌کی‌هاینیکس، سامسونگ و مایکرون بیش از ۹۰ درصد بازار جهانی HBM را در اختیار دارند.
• کمبود ظرفیت تولید HBM، یکی از عوامل اصلی افزایش قیمت و تأخیر در ساخت مراکز داده هوش مصنوعی است.

جمع‌بندی

حافظه HBM یکی از کلیدی‌ترین اما کمتردیده‌شده‌ترین قطعات پشت رشد سریع هوش مصنوعی است. بدون این حافظه، پردازنده‌های گرافیکی قدرتمند امروز نمی‌توانستند داده کافی برای اجرای مدل‌های بزرگ زبانی را به‌موقع دریافت کنند. با ورود نسل‌های HBM4 و HBM4E، پهنای‌باند حافظه باز هم افزایش می‌یابد، اما تا زمانی که ظرفیت تولید این حافظه به تقاضای بازار برسد، کمبود عرضه همچنان یکی از چالش‌های اصلی توسعه زیرساخت‌های AI باقی خواهد ماند.

سؤالات متداول