Пост канала
- фото
Разрежённые MoE после SFT: RL-петля на EKS с DeepEP и EFA Гоняете дообучение с наградой на разрежённой смеси экспертов и ловите простои, пока соседний узел ждёт токены? Обычно тормозит очередь между роллаутами, буфером опыта и шагом политики на общих узлах. Amazon показала схему на управляемом Kubernetes: генерацию опыта, награды и обучение политики разносят по группам нод, чекпоинты — в облако в стороне от критического пути батча. Между машинами с ускорителями разреженный обмен экспертов идёт через адаптер быстрой сети и DeepEP v2, без универсальных коллективов под плотный трафик. В бенчмарке — около сорока процентов быстрее на сборе опыта. Упираетесь в потолок одного инстанса — сверьте петлю с этой раскладкой до закупки новых узлов.
Открыть в MAX- Просмотры
- 11
- ER
- —
- Реакции
- —