Ця стаття представляє AdaGradSelect, новий метод тонкої настройки для великих мовних моделей (LLM), який пропонує значну обчислювальну ефективність та оптимізацію пам'яті. Він тренується приблизно на 12% швидше та використовує на 35% менше пам'яті GPU, зберігаючи продуктивність, близьку до повного тонкого налаштування, перевершуючи LoRA за певними показниками та надаючи більш ефективну та ресурсозберігаючу альтернативу традиційному тонкому налаштуванню.