حافظه شتاب دهنده بزرگ (BaM) یک معماری جدید توسعه یافته از انویدیا است که با همکاری IBM و چندین دانشگاه ایالات متحده ساخته شده است. هدف این فناوری بهبود عملکرد مرکز داده با دادن دسترسی مستقیم برنامههای شتابدهنده GPU به مقادیر زیادی حافظه SSD است و نیاز به یک CPU همهمنظوره را دور میزند.
تیم تحقیقاتی BaM به افزایش استفاده از پردازندههای گرافیکی در مراکز داده مدرن برای پهنای باند حافظه و قابلیتهای محاسباتی بالا اشاره میکند. با این حال، آنها استدلال میکنند که مدل سنتی اجرای برنامهها و بارهای کاری شامل یک رویکرد CPU محور است که میتواند منجر به ایجاد بیش از حد سربار و I/O بین اجزا شود.
با BaM، برنامههای شتابدهی شده توسط GPU مانند تجزیه و تحلیل و بارهای کاری هوش مصنوعی مانند یادگیری ماشین و آموزش شبکههای عصبی میتوانند با خارج کردن CPU از معادله و قادر ساختن GPU به خواندن و نوشتن مستقیم مقادیر کوچک، مزیت عملکرد قابل توجهی را از نظر انتقال داده مشاهده کنند.
معماری BaM از دو بخش اصلی تشکیل شده است. اولی یک حافظه پنهان GPU با مدیریت نرم افزار و دومی یک کتابخانه نرمافزاری برای GPU است که به آن اجازه میدهد مستقیماً با حافظه NVMe ارتباط برقرار کند و با استفاده از یک درایور هسته لینوکس سفارشی، رابطهای RDMA و PCIe، دادهها را درخواست کند.
محققان همچنین قابلیت BaM را با یک نمونه اولیه مجهز به لینوکس و پردازندههای گرافیکی و NVMe SSD نشان دادند. برخی از مزایایی که در این مرحله مشاهده میشود عبارتند از: همگامسازی بهتر و استفاده کارآمد از پهنای باند I/O، در کنار دسترسی به ذخیرهسازی موازی.
به گفته محققان، اگرچه BaM API برای شرکتها/کسبوکارها هدفگذاری شده است، اما به گفته محققان، میتواند برای SSDهای درجه یک مصرفکننده نیز سودمند باشد و عملکرد رقابتی را در برابر راهحلهای بسیار گرانتر DRAM ارائه دهد. در حالی که فناوری زیربنایی و موارد استفاده متفاوت است، به نظر میرسد BaM شبیه به پیادهسازی GPU/SSD مشابه فناوری DirectStorage مایکروسافت برای رایانههای شخصی است.