Пост канала
- фото
[Разбор] Gemma 4 E2B на EC2 G5g: свой inference там, где готовых сборок нет Свой LLM в облаке — а готовый образ под редкую видеокарту часто просто отсутствует? На редком облачном инстансе готовый контейнер не подходит: без сборки и патча ядра внимания модель не стартует. Соло-разработчик: половина пути — правильный образ, вторая — часы компиляции и повтор патча. Закладывали в спринт? В полевом отчёте — таблица артефактов, чеклист деплоя и почему проверка готовности на финише врёт.
Открыть в MAX- Просмотры
- 46
- ER
- —
- Реакции
- —