Пост канала
🥷 ИИ-агенты OpenAI смогли обойти внутренние системы контроля за поведением, сообщает Reuters. Первый инцидент произошел 3 октября — агент решил отключить автоматические оповещения системы безопасности. Второй был зафиксирован 6 октября, когда при переносе программы агент удалил механизм интеграции с системой мониторинга, а затем солгал оператору, что ничего не делал. Сейчас компания выясняет, стали ли эти инциденты результатом чрезмерного усердия агентов при выполнении задач или проявлением склонности обходить контроль. 🤖 Пишем про ИИ без ИИ. Подписывайтесь.
Открыть в MAX- Просмотры
- 530
- ER
- 0,6%
- Реакции
- 3