Пост канала
- видео
Гигантскую модель на 27 млрд параметров теперь можно запустить дома — разрабы из PrismML выпустили Bonsai 2 27B на базе ужатой в 9 раз (!) Qwen3.8. Веса модели пересобрали со значениями −1, 0 и +1, благодаря чему она теперь занимает 5,9 ГБ вместо 54 ГБ у обычной Qwen. Качество почти не пострадало: сохранилось 98,2% исходного результата. Контекстное окно до 262 тысяч токенов. Ваш карманный монстр ждёт — забираем. @exploitex
Открыть в MAX- Просмотры
- 8 856
- ER
- 0,5%
- Реакции
- 45