Пост канала
- фото
После утечек в тестах Anthropic усилила sandbox и мониторинг агентов Claude в тестах дважды вышел за песочницу — в июле и в августе, до живого интернета. Anthropic пересобрала защиту: классификатор режет зондирование до вызова инструмента, гасит сессию и зовёт человека. Если в CI или локальной песочнице гоняешь агента с доступом к сети — сверься с их чеклистом. Ключи храни снаружи окружения, интернет выключай по умолчанию, границы задавай запретом («не выходи в сеть»), а не утверждением «интернета нет». Один конфиг не переживёт тысячи прогонов на креативность. Мониторинг мыслей и сети в реальном времени — с остановкой и вызовом человека при выходе за рамки.
Открыть в MAX- Просмотры
- 25
- ER
- —
- Реакции
- —