Пост канала
- фото
Qwen3.8 открыли весами: 2,4 трлн параметров и vLLM на HyperPod 95 миллиардов активных параметров на токен — так устроена открытая Qwen3.8: в модели 2,4 трлн, но память и счёт идут только за то, что реально включается на каждый запрос. Впервые веса уровня Qwen-Max доступны снаружи. AWS в том же посте ведёт от HyperPod до рабочего эндпоинта на vLLM: вызов инструментов, отдельный канал рассуждений, квантование NVFP4 — с командами запуска и манифестом для кластера, не со слайдами с конференции. Если собираешь свой рантайм под длинные агентные сессии с кодом: восемь B300 на одном узле после сжатия, но узел берут только через резерв ёмкости — on-demand не выдадут.
Открыть в MAX- Просмотры
- 15
- ER
- —
- Реакции
- —