Компьютер и локальный ИИ. Практика

🖥️ Первый рассказ о железе для локального ИИ. С этого рассказа мы начинаем отдельно разбирать компоновку компьютера для локального ИИ. И начнём с процессора. Что могут старые Intel? Где проходит граница между LGA1155 и LGA1150? Какие процессоры уже позволяют работать с локальными языковыми моделями, а какие для LM Studio не подходят, но ещё способны работать с локальными «рисовалками»? Например, LGA1155 для LM Studio уже не подходит, но для генерации изображений такой компьютер ещё может использоваться. (Именно такой компьютер изначально был у Мишки в нашем рассказе.) С AMD ситуация тоже…

Почему локальный ИИ — это будущее 1. Конфиденциальность и безопасность данных Все вычисления происходят на вашем устройстве. Без серверов третьих компаний, без передачи данных наружу, без «серых зон». Это критично там, где есть персональная и коммерческая информация: медицина, юриспруденция, бухгалтерия, образование, производство. 2. Работа без интернета Нет сети? VPN упал? Провайдер «прилёг»? Локальный ИИ продолжает работать. Без простоев, без зависимости от облаков и внешних сервисов. 3. Контроль вместо подписок Облачный ИИ — это постоянная аренда и меняющиеся правила. Локальный ИИ — это…

🔍 Ну что, разобрались? В этой истории вымышлены только герои и семейные события. Техническая основа — вполне реальная. Локальный ИИ и генерация изображений действительно могут работать непосредственно на домашнем компьютере. А старый компьютер не всегда нужно сразу отправлять на свалку — сначала имеет смысл оценить его реальную конфигурацию и понять, что из неё можно использовать. Впрочем, это уже не теория. Именно поэтому здесь мы рассказываем только о том, что проверено нами на практике. ────────── А что, если дать героям этой истории продолжение? 🙂 Хотели бы вы узнать, что произошло с…

Пост без текста

💻 Кстати, если у вас дома есть старенький компьютер, вы уверены, что ему уже место на свалке? Когда компьютеру десять, пятнадцать лет, кажется, что вариантов немного: выбросить, купить новый или смириться с тем, что он уже ни на что серьёзное не способен. А что, если прежде чем покупать новый компьютер, показать старый специалисту, который не просто разбирается в железе и умеет чинить компьютеры, но и умеет оценивать их именно под задачи локального ИИ Он сможет оценить, что в этой машине ещё имеет смысл использовать, что можно заменить или добавить и какие задачи она вообще сможет решать.…

— Здесь мы говорим про ИИ — В основном — про локальный: что пробовали, что получилось, а что нет — Облачный, конечно, тоже затрагиваем — куда сейчас без вездесущего ChatGPT, без не по дням растущей Алисы, без пока ещё слабого, но тоже развивающегося GigaChat, и без DeepSeek, Qwen и прочих — Делимся личным опытом, мыслями и наблюдениями — Задаём вопросы, обсуждаем — И, конечно, иногда спорим 🤝 📟 В технической части мне помогает Ира — цифровая сущность, над которой я работаю уже больше года, так что техническая и теоритическая часть ответов - самого высокого уровня)))) Но многие её выводы, ка…

Пост без текста