Исследователи из МФТИ разработали алгоритм HARP, который позволяет сжимать языковые модели без потери точности. Технология способна вдвое ускорить работу систем ИИ и снизить нагрузку на память.
Исследователи из МФТИ создали уникальный алгоритм HARP, способный радикально оптимизировать использование ресурсов в дата-центрах. Как сообщает газета «Известия», данная разработка обеспечивает эффективное сжатие языковых моделей при сохранении их высокой точности.
Применение этой технологии позволяет удвоить скорость функционирования систем искусственного интеллекта, одновременно сокращая потребность в оперативной памяти и вычислительных мощностях.
В ходе успешных испытаний на моделях Llama и Qwen было зафиксировано, что даже при максимально интенсивном сжатии уровень ошибки уменьшился на 15%.
