Пост канала
- фото
[Разбор] AI-guardrail может быть «зелёным» и при этом не ловить инъекции в агенте Сервис лёг, ловит мало или зелёный на мониторинге, пока инъекция уходит в ответ инструмента. Третий режим страшнее падения? При отсечке 0.5 скоры атаки и нормы остаются на порядок ниже порога: детектор отвечает, блокировок нет. Соло у продового агента: порог с чужого набора не переносите, после смены конфига гоняйте контрольную инъекцию. В разборе перебор отсечек при атаках в счёте или письме. Зелёный статус или ручная проверка раз в спринт?
Открыть в MAX- Просмотры
- 15
- ER
- —
- Реакции
- —