Пост канала
- фото
DSpark для LFM2.5-VL-3B: до 3.13× быстрее decode на Mac без смены ответа Скрин модель уже разобрала, а ответ по-прежнему печатается по токенам , обычно тормозит не разбор картинки, а генерация текста после него. Liquid AI выложила для LFM2.5-VL-3B черновик DSpark: лёгкая модель предлагает блоки токенов, основная их проверяет, и в жадном режиме вывод тот же, что без ускорения , качество не раздувают ради скорости. На Mac прирост на этапе генерации до 3.13×; веса и рецепты запуска через llama.cpp уже на Hugging Face. Если гоняете LFM с картинками локально, возьмите черновик вторым набором весов и сравните длинный ответ по скрину с базовым прогоном , выигрыш там заметнее, чем на одной строке после долгого старта.
Открыть в MAX- Просмотры
- 12
- ER
- —
- Реакции
- —