Технозаметки Малышева

🤖 Как ИИ-агенты создают и обучают роботов: демонстрация NVIDIA На NVIDIA GTC Berlin Дженсен Хуанг показал как ИИ-агенты самостоятельно проектируют виртуальную среду, обучают в ней робота и переносят полученные навыки в физический мир. Ключевой тезис презентации: «Чтобы создать агента, попросите другого агента сделать это за вас». Что интересно, - Гермеса :) В качестве примера показали маленького двуногого робота Microduck от Pollen Robotics и Hugging Face. ⚙️ Как устроен процесс: 1️⃣ Hermes Agent + Nemotron — управляют процессом, планируют задачи и определяют необходимые объекты и инструм…

UltraBERT: один энкодер сразу для классификации и поиска (https://huggingface.co/blog/dmis-lab/ultrabert) 📋 Исследователи DMIS Lab на этой неделе выпустили UltraBERT, - семейство энкодеров на 150M и 380M параметров с нативным контекстом 32K токенов. Это первый энкодер, который лидирует сразу в двух бенчмарках: 91.0 на GLUE и 47.7 на BEIR. 💡 Раньше ни одна модель не была лучшей одновременно в классификации и поиске. Авторы прогнали абляции на 70 триллионах токенов и нашли причину: низкая доля маскирования (5%) делает сильнее классификатор, высокая (50%) - поисковик, а их смешивание в одной…

Расцензурить модели на движке Strata можно без изменения самих моделей (https://github.com/Niko1221/Strata/blob/main/docs/DETAILS.md) 📋 В Strata, - движке локального инференса, обнаружилась встроенная функция «проекции контрольных векторов». Она позволяет снимает отказы модели прямо во время генерации, не трогая GGUF-файл: веса на диске остаются оригинальными. 💡 У модели есть «направление отказа» - вектор в пространстве активаций, который заставляет её вежливо отказывать на неудобные запросы. Strata на слоях с 4 по 44 (для модели Qwen 3.8 Flash Next) вычитает проекцию этого направления и…

У llama.cpp появилось приложение для Windows 11 с загрузкой моделей и локальным API (https://huggingface.co/blog/huggingface/llama-windows) 🦙 Команда llama.cpp и Hugging Face представила Llama Windows, бесплатное приложение для запуска локальных моделей из области уведомлений Windows 11. Это Windows-аналог Llama для macOS: движок тот же, но выбирать сборки и запускать сервер вручную больше не нужно. 🖱 Приложение подключается к уже работающему серверу или запускает свой, а при необходимости устанавливает llama.cpp. Модели можно искать на Hugging Face и скачивать через интерфейс. Для разгово…

Запись эфира 11 октября Эфиры проводятся по воскресеньям вживую с подписчиками ИИзбранного (https://t.me/tsingular/7560) Обсудили: OpenAI в математике Haiku 5.5 Анонсы Microsoft Google, Hugging Face Multi-harness RL и другие мультиагентные системы Безопасность ИИ-агентов MLflow 3.17 и Unsloth осваивают Jev Виртуальные миры с Odyssey-3 Квантовый ИИ в IBM ИИ в астрономии Тёзку Гермеса, - HERMES для программирования. Ну и конечно темпоральную память Graphiti Youtube: https://youtube.com/live/CYAyc_sAsXI ВК Видео: https://vkvideo.ru/video-228392886_456239031 #эфиры ——— @tsingular

🤯 transformers serve теперь позволяет превратить любую LLM или VLM в модель принятия решений с помощью конечной точки /v1/systemone Т.е. вам больше не нужно тренировать свой Jev, - просто берёте любую модель и дёргаете её через эту ручку и она ведёт себя как Jev, - не генерит токены, а сразу даёт вероятности ответа. HuggingFace тащит. Скоро во всех инференсах мира. #systemone #Jev #HuggingFace #transformers ——— @tsingular

Microsoft представила Maia 300 и планирует гигаваттные развёртывания (https://blogs.microsoft.com/blog/2026/10/12/microsoft-to-expand-azure-maia-system-to-multi-gigawatt-deployments/) 🚀 Microsoft представила Maia 300 и с 2027 года планирует расширять семейство собственных ускорителей до развёртываний общей мощностью в несколько гигаватт. Maia должна стать основной платформой обработки запросов к ИИ-моделям в продуктах компании. Предыдущая Maia 200 уже обслуживает Copilot. 🧠 В новом чипе 288 ГБ HBM4 вместо 216 ГБ HBM3e, а пропускная способность памяти выросла с 7 до 18 ТБ/с, примерно в 2,6…

ArtCraft выпустила бесплатные альтернативы Word, Excel и PowerPoint (https://getartcraft.com/apps) 📋 Команда ArtCraft, уже опубликовавшая семь открытых альтернатив приложениям Adobe, представила собственный офисный набор. Microsoft лицензии не меняла: это независимые программы с открытым кодом под MIT или Apache 2.0. 📝 WordCraft (https://github.com/storytold/wordcraft) открывает и сохраняет DOCX, поддерживает стили, таблицы, комментарии и отслеживание правок. 📊 GridCraft (https://github.com/storytold/gridcraft) работает с XLSX, формулами, диаграммами и сводными таблицами. 🖥️ DeckCra…

Jitsi: открытый ВКС Сегодня может кому пригодится. Промпт для агента: Поднимаем jitsi на сервере "тут адрес и параметры вашего сервера" Сначала внимательно изучи документацию, проверь достаточность ресурсов под нагрузку и затем подними на нашем сервере в безопасном режиме https://download.jitsi.org/stable/   https://jitsi.github.io/handbook/docs/devops-guide/ https://jitsi.github.io/handbook/docs/devops-guide/devops-guide-quickstart https://jitsi.github.io/handbook/docs/category/configuration #Jitsi #ВКС #промпты ——— @tsingular

Unsloth: натренируй свой Jev на 8 ГБ VRAM (https://unsloth.ai/docs/basics/train-your-own-decision-model-with-unsloth) Unsloth открыли возможность тренировать собственные decision-модели, как Jev от TypeSafe или Laya. Берёшь обычную Qwen3.5, ставишь Train as Decision model, и LLM перестаёт генерировать текст: она читает вход, скорит варианты и возвращает выбор с откалиброванной вероятностью. Опубликовали бесплатный ноутбук (https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen3_5_(4B)-Decision.ipynb) полного цикла: подготовка данных, тренировка, калибровка, запуск.…