TurboQuant: Новый алгоритм сжатия памяти от Google
Ключевые моменты
«Такие методы, как TurboQuant, имеют решающее значение для этой задачи,» — заявили исследователи Google, подчеркивая важность нового алгоритма в контексте растущих потребностей в памяти для систем искусственного интеллекта.
TurboQuant представляет собой новый алгоритм сжатия памяти, разработанный Google, который позволяет достигать экстремального сжатия без потери качества. Этот алгоритм нацелен на оптимизацию использования памяти в системах ИИ, что становится особенно актуальным в условиях увеличения объема данных и сложности моделей.
Алгоритм использует векторное квантование для устранения узких мест кэширования в обработке ИИ. Он способен значительно уменьшить размер моделей, сохраняя при этом их точность, что делает его многообещающим инструментом для разработчиков.
Метод PolarQuant, который также является частью разработки, преобразует вектор памяти в полярные координаты, что позволяет снизить накладные расходы на память. TurboQuant может квантовать кэши ключ-значение до 3 бит без необходимости в обучении или донастройке, что значительно упрощает его внедрение.
По результатам тестирования, включая LongBench и Needle In A Haystack, TurboQuant демонстрирует улучшенную производительность в векторном поиске и эффективности кэша. Однако, как отмечает Бен Баррингер, «TurboQuant добавил давление, но это эволюционный, а не революционный процесс.»
Несмотря на свои преимущества, алгоритм не решает проблемы с памятью при обучении моделей ИИ и пока не получил широкого применения, оставаясь в основном лабораторной разработкой. «Когда модель становится более мощной, вам требуется лучшее оборудование для ее поддержки,» — добавляет Рэй Ванг.
TurboQuant был анонсирован 24 марта 2026 года и ожидается, что он будет представлен на конференции ICLR 2026. Тем не менее, долгосрочное влияние TurboQuant на индустрию ИИ остается неясным. Подробности остаются неподтвержденными.
Сразу после объявления о TurboQuant акции компаний, связанных с производством полупроводников, таких как Samsung, SK Hynix и Kioxia, упали на 5-6%. Это подчеркивает обеспокоенность рынка по поводу потенциального влияния нового алгоритма на спрос на оборудование для ИИ.
