Ми пропонуємо нову архітектуру, яка значно зменшує обчислювальний та енергетичний слід великих мовних моделей (LLM), забезпечуючи їх ефективне розгортання на периферійних пристроях. Цей прорив сприяє створенню додатків ШІ в реальному часі, що зберігають конфіденційність, у мобільних обчисленнях, Інтернеті речей та вбудованих системах, вирішуючи критичну потребу у стійкому та децентралізованому висновку ШІ.