NVIDIA анонсировала кастомную память NVHBM для ИИ-ускорителей NVIDIA представила технологию памяти NVHBM, созданную для
NVIDIA представила технологию памяти NVHBM, созданную для будущих собственных графических процессоров и чипов партнеров по экосистеме NVLink Fusion. В отличие от стандартного стека HBM4E, контроллер памяти перенесли с вычислительного кристалла прямо в базовый кристалл HBM. Это позволило освободить до 25% площади на основном чипе под дополнительные вычислительные блоки.
По данным NVIDIA, технология обеспечивает прирост пропускной способности памяти до 30% на стек и снижает энергопотребление на 15%. За счет перекомпоновки физического интерфейса площадь служебных блоков уменьшилась на 67%. Первым партнером по внедрению технологии станет лаборатория Amazon Annapurna Labs, которая интегрирует NVHBM в разрабатываемые ИИ-ускорители Trainium4.