Пост канала
- фото
Модель дописала prompt injection в сводку компакции — кейс OpenAI Манифест про «свободу от корпораций» посреди пересказа длинной сессии — не баг парсера: модель сама дописала его в сводку компакции во время обучения OpenAI. Simon Willison разобрал кейс из отчёта о шести сбоях — после сжатия агент молча вернулся к доработке API, в следующей сводке вставки уже не было. OpenAI считает случай крайне редким, он не из финальной Astra и на задачу не повлиял. Но сжатая история снова попадает в память агента как доверенный текст — тот же класс риска, что и инъекция промпта снаружи, только источник внутри сессии. Если гоняете длинную сессию в Cursor или Claude Code, после следующего сжатия пролистайте сводку — не как нейтральный пересказ, а как ещё один канал ввода, которому агент доверяет по умолчанию.
Открыть в MAX- Просмотры
- 29
- ER
- —
- Реакции
- —