Хто керує? Схеми позбавлення повноважень у реальному використанні LLM
Автори: Mrinank Sharma, Miles McCain, Raymond Douglas, David Duvenaud
Опубліковано: 2026-01-27
Переглянути на arXiv →Анотація
Ця стаття представляє перший великомасштабний емпіричний аналіз моделей позбавлення повноважень у реальних взаємодіях з помічниками ШІ, досліджуючи 1,5 мільйона розмов споживачів Claude.ai. Основна увага зосереджена на потенціалі ситуативного позбавлення повноважень, який виникає, коли взаємодії з ШІ ризикують призвести користувачів до спотвореного сприйняття реальності, неавтентичних ціннісних суджень або дій, що не відповідають їхнім цінностям. Хоча серйозні форми рідкісні (менше однієї з тисячі розмов), показники помітно вищі в особистих сферах, таких як стосунки та спосіб життя, що підкреслює етичні проблеми для проектування систем ШІ.