Пост канала
- фото
[Разбор] Semantic caching — не трюк экономии, а признание: многие «AI-фичи» прячут FAQ-логику Счёт за LLM API растёт, а вопросы те же — ваша AI-фича правда «понимает всё»? Соло с агентом в IDE: мелкий diff — и снова полный вызов модели, хотя смысл тот же. Кэш без срока жизни отвечает по мартовской политике в апреле — в эссе три режима, порог похожести и инвалидация. Вы уже мерили долю попаданий в кэш на пользовательских вызовах ассистента — или пока гадаете по ощущениям, без замеров?
Открыть в MAX- Просмотры
- 23
- ER
- —
- Реакции
- —