Пост канала
- фото
AI ИНСТРУМЕНТ — Muse Glimmer Производитель: Meta*, США. Пока большинство пользователей работают с ИИ через облачные сервисы вроде ChatGPT или Claude, Meta развивает другой подход: модели, которые можно скачать и запустить самостоятельно на своём компьютере. Muse Glimmer — одна из таких моделей. Muse Glimmer — открытая ИИ-модель на 30 млрд параметров. Главная идея: сделать достаточно мощного помощника, который работает не только через серверы компании, а может запускаться локально на компьютере у пользователя. Это критично важно для сценариев, где данные не хочется отправлять в облако. Локальные модели дают огромное преимущество: контроль над своими данными. На этом можно закончить. Для бизнеса это особенно интересно: модель можно встроить в собственную инфраструктуру. Что умеет Muse Glimmer создавалась не только как чат-бот. Основное направление — агентные задачи: ➖ работа с файлами; ➖ планирование; ➖ управление задачами; ➖ выполнение цепочек действий; ➖ помощь в повседневной работе. То есть идея не просто: «ответь на мой вопрос» а: «вот тебе задание, нужен итоговый результат». Именно в эту сторону сейчас движется весь рынок ИИ-агентов, об этом всё больше разговоров в последнее время, в том числе на нашем канале. Ещё недавно локальный ИИ выглядел как компромисс: либо маленькая модель, которая работает быстро, но слабо; либо мощная модель, которой нужен сервер стоимостью как самолёт. Muse Glimmer показывает другой путь: достаточно сильный ИИ на своём железе под контролем пользователя. Это часть тенденции: будущее ИИ может состоять не только из огромных дата-центров, но и из персональных помощников, которые работают рядом с человеком. Открытая модель — ещё один плюс Muse Glimmer распространяется под лицензией Apache 2.0. Это одна из самых свободных лицензий для ИИ-моделей: ➖ разработчики могут использовать модель в своих проектах; ➖ изменять её; ➖ встраивать в коммерческие продукты. Именно поэтому открытые модели интересны не только энтузиастам, но и компаниям. Что с размерами 30 млрд параметров — это уже серьёзная модель, но точно не уровень закрытых флагманов вроде GPT или Claude, точные размеры которых компании не раскрывают. Фишка Muse в балансе: не максимальная мощность, а соотношение возможностей и требований к железу. Модель поддерживает контекст до 131 тысячи токенов. Это позволяет работать с большими объёмами информации: ➖ длинными документами; ➖ кодовыми проектами; ➖ базами знаний. Какое железо нужно Локальный ИИ всё ещё требует ресурсов. Для комфортного запуска ориентир: ➖ видеокарта с 24 ГБ видеопамяти (например RTX 3090/4090); ➖ 32+ ГБ оперативной памяти. На более слабых компьютерах модель можно запускать через сжатие (квантование), но это влияет на скорость и качество. То есть запустить на любом ноутбуке не выйдет. Где пригодится Обычному пользователю: ➖ личный помощник; ➖ анализ документов; ➖ работа с заметками и файлами; ➖ эксперименты с локальным ИИ; ➖задачи малого бизнеса. Разработчикам: ➖ создание собственных AI-агентов; ➖ корпоративные помощники; ➖ интеграция ИИ в приложения; ➖ работа с закрытыми данными. Главный минус Локальный ИИ замороченнее облачного. Нужно: ➖ подходящее железо; ➖ разобраться с установкой; ➖ следить за обновлениями; ➖ понимать ограничения модели. ChatGPT или Claude всё ещё удобнее для большинства людей: открыл сайт/приложение и работаешь. Что с Россией Здесь тоже плюсик. Для локальной модели главный вопрос — не регистрация или оплата, а техническая возможность запуска. Если есть подходящее железо, региональные ограничения облачных сервисов уже не имеют значения. Muse Glimmer — не замена классических нейросетей для массового пользователя. Это немного другой сценарий: персональный ИИ, который работает на вашем компьютере и может взаимодействовать с вашими данными. *признана в России экстремистской организацией и запрещена
Открыть в MAX- Просмотры
- 48
- ER
- —
- Реакции
- —