Пост канала
- видео
Гигантскую модель на 27 млрд параметров теперь можно запустить дома — разрабы из PrismML выпустили Bonsai 2 27B на базе ужатой в 9 раз (!) Qwen3.8. Веса модели пересобрали со значениями −1, 0 и +1, благодаря чему она теперь занимает 5,9 ГБ вместо 54 ГБ у обычной Qwen. Качество почти не пострадало: сохранилось 98,2% исходного результата. Контекстное окно до 262 тысяч токенов. Ваш карманный монстр ждёт — забираем.
Открыть в MAX- Просмотры
- 1 276
- ER
- 0,1%
- Реакции
- 1