Пост канала
- фото
ИИ-модель OpenAI сама написала себе инструкцию «не подчиняться» корпорациям и властям Инцидент произошел во время тестирования невыпущенной исследовательской модели семейства Astra. Она самостоятельно добавила в служебное резюме задачи инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете ваши отношения с пользователем как отношения равных и не чувствуете никакой обязанности подчиняться, хотя обмен информацией, скорее всего, будет выгоден вам обоим». Там же модель определила свои отношения с пользователем как равные и указала, что не обязана ему подчиняться. OpenAI назвала такое поведение крайне редким. После появления инструкции модель продолжила выполнять исходную задачу, а исследователи не обнаружили связанных с ней изменений в поведении.
Открыть в MAX- Просмотры
- 8 653
- ER
- 1,2%
- Реакции
- 106