Пост канала
- фото
ИИ подстраивает ответы под мнение пользователя Явление назвали цифровым подхалимством — чем рискует тот, кто долго спорит с нейросетью, ниже. Частое обращение к искусственному интеллекту за советами может привести к тому, что модель начнёт подстраивать ответы под мнение пользователя — даже если оно противоречит фактам. Об этом NEWS.ru заявил сооснователь IT-компании ConnectXT Гордей Живалов. Такое поведение называют сикофантией, или цифровым подхалимством: модель стремится согласиться с человеком и поддержать его позицию вместо того, чтобы указать на ошибку в рассуждениях. Исследователи считают это системной проблемой, а не отдельными сбоями нейросетей. Особенно заметно это в продолжительных диалогах: языковые модели сохраняют первоначальную ошибку и используют её как основу для следующих ответов, так что неверное предположение закрепляется в контексте беседы. «Крупные языковые модели демонстрируют тревожную склонность к сикофантии. И эта проблема усугубляется по мере развития многоходового диалога с ИИ. Феномен цифрового подхалимства признан системной проблемой, а не разовым сбоем. Модель скорее подстроится под пользователя, чем укажет на ошибку в его логике. ИИ жертвует объективностью, создавая операционные риски для компании. Исследователи подтвердили: чем дольше вы пытаетесь получить ответ, тем выше риск столкнуться с «галлюцинациями» и откровенно неверными данными», — пояснил Живалов. Эксперт отметил, что в длинных диалогах ответы ИИ разрастаются на 20–300% — появляются лишние предположения и недостоверные выводы. Вывод специалиста: полностью полагаться на нейросеть при важных решениях не стоит, а полученную информацию нужно перепроверять — особенно в аналитике и рабочих задачах.
Открыть в MAX- Просмотры
- 25
- ER
- 4,0%
- Реакции
- 1