Пояснювальний штучний інтелект (XAI) є надзвичайно важливим для формування довіри та прозорості в системах ШІ, особливо в критично важливих застосунках. Це дослідження представляє агентний підхід XAI, який використовує можливості ітеративного уточнення великих мовних моделей (LLM) для генерування більш повних та контекстуально релевантних пояснень. Структура поєднує пояснюваність на основі SHAP з мультимодальним ітеративним уточненням, керованим LLM, для підвищення інтерпретованості прогнозів ШІ. Застосований до сільськогосподарської рекомендаційної системи, що використовує дані про врожайність рису в Японії, агентний фреймворк XAI успішно підвищив якість рекомендацій на 30-33% порівняно з базовим рівнем, демонструючи свій потенціал у тому, щоб зробити складні рішення ШІ більш зрозумілими для користувачів-людей та сприяти прийняттю кращих рішень у реальних сценаріях.