Пост канала
- фото
TensorRT Model Connect: как NVIDIA проектировала OSS под coding agents 128 семейств моделей на одном стеке TensorRT — и репозиторий с самого начала проектировали под coding agents, а не под редкие ручные PR. NVIDIA разобрала TensorRT Model Connect: открытые C++-референсы, где узкое место сместилось с генерации кода на параллельные правки и соседние каталоги. В архитектуре четыре опоры: независимые потоки по длинному хвосту, изоляция по семействам, обратимые изменения и проверка на GPU до попадания в каталог. Ведёте агента по инференс-коду в одном дереве — спросите себя, можно ли откатить одно семейство, не ломая соседние ветки. Без таких границ скорость агента быстро становится шумом.
Открыть в MAX- Просмотры
- 11
- ER
- —
- Реакции
- —