Дослідження представляє нову техніку квантизації, яка значно зменшує обчислювальні та пам'ятні вимоги великих мовних моделей, роблячи їх розгортання можливим на периферійних пристроях з обмеженими ресурсами. Цей прорив дозволяє створювати конфіденційні ШІ-застосування на пристроях та розширює охоплення складного NLP на ширший спектр апаратного забезпечення.