Пост канала
- фото
Малая LFM2.5-350M: IFStruct 22,6% → 29,7% после 100 шагов GRPO Если локальный агент в твоём сервисе постоянно ломает JSON — пропускает обязательные поля, добавляет лишние ключи — одним промптом это обычно не чинится. Hugging Face показали рецепт, как за сто шагов GRPO подтянуть малую LFM2.5-350M под структурированный вывод: LoRA на ~1,66% весов, три функции награды, весь прогон влезает в бесплатный Colab. На бенчмарке IFStruct счёт вырос с 22,6% до 29,7% — без кластера и модели на миллиарды параметров. JSON подтянулся сильнее всего. Если крутишь свой llama.cpp-стек, имеет смысл прогнать тот же ноутбук и сравнить с тем, как у тебя сейчас закрывается схема.
Открыть в MAX- Просмотры
- 18
- ER
- —
- Реакции
- —