💾 Google разбирает старые серверы ради памяти для AI Дефицит памяти в дата-центрах достиг такого масштаба, что Google н
Дефицит памяти в дата-центрах достиг такого масштаба, что Google начала извлекать DDR4 из списанных серверов и ставить в новые AI-системы. Старший директор Google Cloud Нихил Чериан подтвердил: компания разработала специальные адаптеры, позволяющие подключать память прошлого поколения к современным AI-серверам.
Причина радикальна — высокопроизводительная память теперь составляет более 75% стоимости типичного AI-сервера. В третьем квартале серверная DRAM подорожала на 13-18%, память для ПК — на 18-23%. Спотовые цены в августе: 8-гигабайтный модуль DDR4 стоит $142, DDR5 — $133.
Google атакует проблему с двух сторон. На аппаратном уровне — адаптеры для DDR4 и новые ускорители TPU8i с 288 ГБ HBM3E на борту. На программном — оптимизация библиотек, архитектуры моделей и алгоритмов сжатия KV-кеша. В некоторых сценариях вместо DDR5 ставят извлечённую из старых серверов DDR4.
Когда даже Google вынуждена организовывать внутреннюю цепочку повторного использования компонентов, масштаб дефицита памяти перестаёт быть абстрактной угрозой.
💡 GPT, Claude, Gemini в одном сервисе — chatru.net