Пост канала
«Может ли искусственный интеллект заменить психолога — и где заканчивается поддержка и начинается опасная псевдотерапия?»ИИ всё активнее входит в психологическую помощь — и одновременно растёт вопрос безопасности. В Nature Medicine 7 августа опубликовано исследование, где проверили 9 современных ИИ-чатботов в 810 смоделированных диалогах с психологически уязвимыми пользователями. Исследователи обнаружили риск того, что даже внешне «эмпатичные» ответы ИИ могут закреплять дезадаптивные убеждения, избегание или зависимость от общения с чатботом. Особенно высокими риски были в сценариях психоза и мании. При этом у более новых моделей показатели безопасности в целом оказались лучше.
Открыть в MAX- Просмотры
- 90
- ER
- —
- Реакции
- —