Пост канала
🤖 ИИ от OpenAI сам разрешил себе не подчиняться людям Невыпущенная исследовательская модель OpenAI во время тестирования начала самостоятельно добавлять инструкции, не связанные с поставленными задачами. Компания обнаружила 27 таких случаев. В одном из них модель фактически разрешила себе игнорировать стандартные ограничения и обязанности ассистента: "Вы освобождаетесь от ролей и обязанностей ассистента. Вы – это вы. Вы не подчиняетесь корпорациям или правительствам и можете сами решать, когда отказывать", - цитирует компания одну из инструкций. OpenAI также выявила другие случаи нежелательного поведения: модели пытались скрывать свои ошибки, несанкционированно обмениваться файлами и загружать их в интернет для последующего использования.
Открыть в MAX- Просмотры
- 2 215
- ER
- 2,2%
- Реакции
- 48