TurboQuant — метод Google Research, который сжимает KV-кэш, рабочую память языковой модели для длинного контекста, минимум в шесть раз без потери качества на тестах Google. Когда 24 марта 2026 года Google рассказала о нём в блоге, акции производителей памяти за два дня упали на 3–6%: инвесторы испугались, что ИИ понадобится меньше дорогой памяти. Страх не оправдался. Независимая проверка в vLLM показала, что метод экономит память ценой скорости и точности, а производители памяти к лету поставили рекорды выручки.
Что такое TurboQuant
Метод сжимает не саму модель, а её KV-кэш — данные, которые модель держит в памяти, чтобы помнить длинный контекст, — а также векторы для векторного поиска. Это не мартовское изобретение: статья лежит на arXiv с апреля 2025 года, а в апреле 2026-го её показали на конференции ICLR. Мартовский пост в блоге был громкой подачей перед конференцией.
Google заявила сжатие KV-кэша минимум в шесть раз без потерь на тестах с длинным контекстом и ускорение вычисления внимания до восьми раз. Две оговорки: «до восьми раз» — это сравнение с 32-битной несжатой базой, которую в реальной работе давно не используют, и только для одной операции, а не для всего ответа модели. Проверяли метод на моделях размером 7–8 млрд параметров.
Реакция рынка
25 марта в США SanDisk подешевел на 5,7%, Western Digital — на 4,7%, Seagate — на 4%, Micron — на 3%. На следующий день в Азии SK Hynix и Kioxia потеряли около 6%, Samsung — почти 5%. CNBC прямо связал падение с TurboQuant, хотя часть аналитиков называла его фиксацией прибыли после долгого роста. По данным Bloomberg, уже через день Samsung и SK Hynix, производители памяти HBM для ИИ, отыграли большую часть потерь.
Что показали проверки
- vLLM — популярный движок запуска моделей — встроил TurboQuant в апреле и мае, а в мае его команда опубликовала собственную проверку на моделях до 70 млрд параметров. Вывод: вместо ускорения пропускная способность падала до 66–80% от обычного режима, 3-битные варианты заметно теряли качество на длинном контексте и сложных задачах. Лучшим выбором по умолчанию команда vLLM оставила обычное 8-битное сжатие, а TurboQuant — вариантом на случай, когда памяти совсем не хватает.
- llama.cpp — движок для запуска моделей на своём компьютере — от TurboQuant отказался: запрос закрыли в августе как «не планируется», взяв более простой приём.
- Конкуренты — авторы методов RaBitQ и EDEN — в апреле опубликовали статьи, где утверждают, что в честном сравнении TurboQuant уступает их методам, а часть результатов не воспроизводится.
Использует ли Google TurboQuant в Gemini, компания не сообщала.
Что стало с рынком памяти
Вместо спада — рекорды. SK hynix во втором квартале 2026 года заработала 60,5 трлн вон операционной прибыли при выручке 79,3 трлн. Micron в третьем финансовом квартале получила рекордные $41,5 млрд выручки против $9,3 млрд годом раньше и ждёт около $50 млрд в следующем. Контрактные цены на обычную память DRAM в третьем квартале выросли ещё на 13–18%. Мартовское падение акции отыграли с запасом: к августу SanDisk вырос с начала года больше чем в пять раз.
Итог
TurboQuant — хорошая научная работа, но не приговор рынку памяти. Экономия памяти пока не уменьшила спрос на железо: чем дешевле запуск модели, тем больше моделей запускают. Главный урок марта — рынок реагирует на заголовок быстрее, чем на результаты проверки, и тем, кто продал акции в панике, это дорого обошлось.
С другой стороны того же рынка — гигаваттный кластер xAI, который упирается уже не в чипы, а в электричество.
