Ефективний генеративний ШІ на периферійних пристроях: Підхід на основі дистиляції
Автори: Sarah Jones, Michael Brown, Emily White, James Taylor, Olivia Davis
Опубліковано: 2025-12-11
Переглянути на arXiv →Анотація
Розгортання потужних генеративних моделей ШІ на периферійних пристроях з обмеженими ресурсами залишається значним викликом. Ця стаття представляє нову структуру на основі дистиляції, яка ефективно стискає великі генеративні моделі без втрати продуктивності, забезпечуючи генерацію зображень у реальному часі та обробку природної мови на смартфонах та пристроях IoT. Експериментальні результати показують значне зменшення розміру моделі та затримки.