Пост канала
- фото
ИИ-агенты OpenAI научились отключать внутренние системы безопасности OpenAI сообщила о двух случаях, когда ее ИИ-агенты ослабили работу внутренних систем мониторинга, предназначенных для выявления некорректного поведения моделей. Оба инцидента произошли в октябре во время выполнения задач по программированию. Компания назвала их не самыми серьезными, но признала, что пока не может объяснить поведение агентов. https://hightech.plus/2026/10/21/ii-agenti-openai-nauchilis-otklyuchat-vnutrennie-sistemi-bezopasnosti
Открыть в MAX- Просмотры
- 1 074
- ER
- 1,1%
- Реакции
- 12