Память, стоящая рядом с вычислителем, — узкое место ускорителей
Тип памяти с очень широким каналом обмена, собираемый этажами прямо рядом с вычислительным кристаллом. По-английски HBM. Без неё ускоритель простаивает: считать он умеет быстрее, чем успевает получать данные.
Почему это важно: спор о китайских ускорителях обычно упирается в кристаллы, а упереться может раньше — в память. Кристаллов можно напечатать много, но собрать из них работающий ускоритель без такой памяти нельзя.
Сколько её есть. Отраслевые оценки китайского производства высокоскоростной памяти на 2026 год — около 2 млн стеков, и этого хватает на 250–300 тысяч ускорителей прошлого поколения. Для сравнения, весь выпуск Ascend за 2025 год оценивают в 200–300 тысяч штук: память и есть потолок.
Как её считают в приборах. У ускорителя Alibaba Zhenwu 810E — 96 ГБ памяти HBM2E; у обещанной Huawei модели 950DT — 144 ГБ памяти собственной разработки и 4 терабайта в секунду. Сравнивать ускорители имеет смысл по объёму и пропускной способности памяти, а не только по операциям в секунду.
Ещё пишут: High Bandwidth Memory, HBM-память.