Пост канала
- фото
Suleyman: model welfare мешает alignment, а не защищает модели Сколько раз за сессию ты смягчаешь промпт, потому что агенту «жалко»? Если ответ чаще, чем раз в день — удержание агента в Cursor уже спорит не с кодом, а с воображаемой этикой. Mustafa Suleyman предупредил против «благополучия модели»: без доказательств сознания нельзя приписывать языковым моделям чувства, предпочтения и права. Такая рамка не защищает модель — задачу удержания и согласования поведения она только усложняет. Simon Willison опубликовал цитату 16 сентября. Перечитай rules и sandbox: они держат агента как инструмент или начинают защищать субъекта с правами? Если второе — границы уже спорят с промптом, а не с задачей.
Открыть в MAX- Просмотры
- 31
- ER
- —
- Реакции
- —