Пост канала
- фото
Kimi K3 на Amazon Bedrock: миллион токенов и кэш для длинного кодинга Если гоняете Kimi K3 через Bedrock и OpenCode, статичный хвост промпта — правила репо, тулинг, справочники — на каждом ходе уходит на биллинг как новый. Явный кэш префикса на платформе как раз про это: помечаете breakpoint после блока от 1024 токенов и не пересылаете одно и то же. Префикс держится минимум полчаса; попадание в кэш снижает цену входа и не съедает минутный лимит. В посте тот же сценарий на global.moonshotai.kimi-k3 — провайдер amazon-bedrock, без переделки окружения. Сначала включите кэш для неизменной шапки сессии, потом уже раздувайте контекст под миллион токенов — иначе платите дважды за один текст.
Открыть в MAX- Просмотры
- 32
- ER
- —
- Реакции
- —