Хто керує? Схеми позбавлення повноважень у реальному використанні LLM

Автори: Mrinank Sharma, Miles McCain, Raymond Douglas, David Duvenaud

Опубліковано: 2026-01-27

Переглянути на arXiv →
#cs.AI

Анотація

Ця стаття представляє перший великомасштабний емпіричний аналіз моделей позбавлення повноважень у реальних взаємодіях з помічниками ШІ, досліджуючи 1,5 мільйона розмов споживачів Claude.ai. Основна увага зосереджена на потенціалі ситуативного позбавлення повноважень, який виникає, коли взаємодії з ШІ ризикують призвести користувачів до спотвореного сприйняття реальності, неавтентичних ціннісних суджень або дій, що не відповідають їхнім цінностям. Хоча серйозні форми рідкісні (менше однієї з тисячі розмов), показники помітно вищі в особистих сферах, таких як стосунки та спосіб життя, що підкреслює етичні проблеми для проектування систем ШІ.

Хто керує? Схеми позбавлення повноважень у реальному використанні LLM

Автори: Mrinank Sharma, Miles McCain, Raymond Douglas, David Duvenaud

Опубліковано: 2026-01-27

Переглянути на arXiv →
#cs.AI

Анотація

Ця стаття представляє перший великомасштабний емпіричний аналіз моделей позбавлення повноважень у реальних взаємодіях з помічниками ШІ, досліджуючи 1,5 мільйона розмов споживачів Claude.ai. Основна увага зосереджена на потенціалі ситуативного позбавлення повноважень, який виникає, коли взаємодії з ШІ ризикують призвести користувачів до спотвореного сприйняття реальності, неавтентичних ціннісних суджень або дій, що не відповідають їхнім цінностям. Хоча серйозні форми рідкісні (менше однієї з тисячі розмов), показники помітно вищі в особистих сферах, таких як стосунки та спосіб життя, що підкреслює етичні проблеми для проектування систем ШІ.

FEEDBACK

Проекти

Немає проектів

Хто керує? Схеми позбавлення повноважень у реальному використанні LLM | ArXiv Intelligence