Пост канала
- фото
Generative recommender вместо трёх пайплайнов: HSTU на Dynamo-Triton Лента как одна последовательность событий — или три несинхронных скоринга на каждый показ? NVIDIA выложила деплой generative recommender на HSTU через Dynamo-Triton: кандидаты, контекст и действия идут токенами в одном потоке, без свёртки в пару признаков на вход ранжировщика. Retrieval, ranking и прогноз клика в классике живут разными пайплайнами; здесь их заменяет одно моделирование последовательности под продовый сервинг. Если вы как раз пересматриваете recsys и устали от трёх релизов на одну фичу, разбор поможет понять, что схлопывается в один деплой, а что остаётся инфраструктурой вокруг модели.
Открыть в MAX- Просмотры
- 10
- ER
- —
- Реакции
- —