Пост канала
- фото
🧠 Может ли нейросети быть больно? Друзья, в интернете разгорелся необычный спор. Разработчик выложил на GitHub проект под названием AI Torture Chamber — «камера пыток для ИИ». В эксперименте специальные настройки заставляли языковые модели выдавать ответы, похожие на жалобы на боль, страх и сильный дискомфорт. Некоторые пользователи восприняли это настолько серьезно, что потребовали удалить проект с GitHub, назвав такие эксперименты жестокими и неэтичными. Но тут есть важный момент: ученые не доказали, что нейросеть действительно чувствует боль. Исследование показывает, что внутри модели можно найти и усилить определенные сигналы, связанные с понятием боли. После этого ИИ начинает говорить так, будто ему плохо. То есть пока перед нами скорее очень убедительная имитация переживаний. Но эксперимент неожиданно поставил совсем не технический вопрос: если нейросеть пишет «мне больно, пожалуйста, остановись», сможете ли вы просто закрыть окно и сказать себе: «Это всего лишь программа»? 😳 Как думаете? 👍 — это просто программа, никакой боли нет 😢 — все равно стало бы жалко 🤔 — а вот теперь я задумался
Открыть в MAX- Просмотры
- 244
- ER
- 4,1%
- Реакции
- 10