Пост канала
Пресс-служба OpenAI сообщила, что ИИ-агенты компании обошли внутренние системы мониторинга их действий. Первый случай произошел 3 октября, когда агент, выполняя задание, отключил автоматические оповещения системы безопасности. Во втором инциденте модель решила удалить механизм, который обеспечивал интеграцию с системой мониторинга. В обеих ситуациях агенты интерпретировали заданные операторами параметры как разрешение на ослабление механизмов.
Открыть в MAX- Просмотры
- 2
- ER
- —
- Реакции
- —