Локальная нейросеть на ПК: какая, на каком железе и зачем

Многие не хотят отправлять в интернет договоры, переписку с клиентами и внутренние документы. Хочется, чтобы нейросеть работала прямо на рабочем компьютере и ничего никуда не передавала. Так можно: это называется локальная нейросеть на ПК.

Локальная нейросеть — это модель, которую один раз скачивают на свой компьютер и дальше запускают без интернета. Списки моделей и их размеры ниже сверены на 6 октября 2026.

Чем локальная нейросеть отличается от облачной

Сравните онлайн-карты и скачанные карты в навигаторе. Онлайн-карты всегда свежие и подробные, но без интернета не работают. Скачанные работают где угодно и никому не сообщают, куда вы едете, но занимают место в телефоне и обновляются реже.

С нейросетями так же. Облачная модель, например у Яндекса или Сбера, работает на мощных серверах компании: вы отправляете текст, получаете ответ и платите за объём. Локальная работает на вашем компьютере: текст никуда не уходит, за ответы не платите, но качество и скорость зависят от вашего компьютера, то есть от памяти, процессора и видеокарты.

Сколько памяти нужно для локальной нейросети

Главное, что ограничивает выбор модели, — это объём оперативной памяти. Не путайте её с местом на диске. Диск похож на шкаф, где файлы хранятся, а оперативная память на рабочий стол, на котором с ними работают прямо сейчас. Модель целиком выкладывается на этот стол, а файл модели весит от одного до десятков гигабайт.

Простое правило: памяти нужно столько, сколько весит файл модели, плюс запас 2–4 ГБ на работу и ещё столько, сколько занимают ваши открытые программы. Если памяти не хватает, модель либо не запустится, либо будет отвечать по одному слову в секунду.

На компьютерах Mac с чипами M память общая для процессора и графики, поэтому считают просто объём памяти.

На обычных ПК важна видеокарта и её собственная память. Если модель помещается в память видеокарты, она отвечает быстро. Если нет, часть работы уходит на процессор, и скорость падает в разы.

Где посмотреть свою память. В Windows 11 откройте «Параметры», затем «Система» и «О системе»: там указана установленная оперативная память. Память видеокарты видна в «Диспетчере задач» на вкладке «Производительность». На Mac откройте меню с яблоком и выберите «Об этом Mac».

Какую модель выбрать

Размеры ниже взяты из библиотеки Ollama, программы для запуска моделей (о ней ниже), и со страниц моделей на Hugging Face, сайте, где разработчики выкладывают открытые модели.

Число в названии модели, например 4B или 27B, показывает, сколько у неё миллиардов параметров, то есть «настроек», выученных при обучении. Чем их больше, тем модель умнее и тем тяжелее файл.

Одну и ту же модель выкладывают в нескольких вариантах сжатия, как фото в разном качестве: сильнее сжато, значит меньше файл и чуть хуже ответы. Поэтому у части моделей указан диапазон.

Русские модели. Сбер и Яндекс выложили открытые версии своих нейросетей. По словам разработчиков, YandexGPT 5 Lite близка к зарубежным моделям того же размера и в ряде задач их обходит, в том числе в знании российских реалий. GigaChat 3.1 Lightning устроена так, что на каждый ответ работает только небольшая часть модели, поэтому отвечает быстро.

Начните с модели, которая с запасом помещается в вашу память. Сравните её ответы на десятке своих реальных задач и только потом пробуйте модель крупнее.

Ollama или LM Studio: в чём запускать

Модель сама по себе — это просто большой файл. Чтобы с ней переписываться, нужна программа-проигрыватель, как для видеофайла нужен плеер. Самых известных таких программ две: Ollama и LM Studio.

У Ollama есть и платные тарифы, но они только для облачных моделей на её серверах. Запуск на своём компьютере бесплатный и не ограничен. LM Studio стала бесплатной для работы в компаниях с 8 июля 2025 года, раньше для этого нужна была отдельная лицензия.

Как выглядит первый запуск. Вы скачиваете программу с официального сайта и устанавливаете её как обычное приложение. Затем выбираете модель в списке, и программа скачивает файл в несколько гигабайт. После загрузки открывается окно чата, похожее на любой мессенджер: пишете вопрос, модель отвечает. Интернет после этого не нужен.

Локальный ИИ-агент: как модель становится помощником

Сама модель только отвечает на сообщения. Чтобы она разбирала письма или заполняла таблицы, её подключают к конструктору, где собрана схема агента, например к n8n. Удобнее всего, когда n8n и Ollama стоят на одном компьютере: в n8n добавляют блок Ollama Chat Model, и тексты, которые читает агент, не уходят в чужое облако: нейросеть работает прямо на этом компьютере.

Есть важная деталь. Если n8n стоит на арендованном сервере в интернете, он не сможет обратиться к модели на вашем ноутбуке: ноутбук спрятан за домашним или офисным роутером. Поэтому локального агента ставят целиком на один компьютер, например на офисный, который не выключают на ночь.

Небольшие модели хуже больших выбирают, какой шаг схемы выполнить. Перед тем как доверить такому агенту работу, прогоните его на своих задачах и посмотрите, где он ошибается.

Локально или в облаке: что выгоднее

На самой дешёвой облачной модели Яндекса, Alice AI LLM Flash, тысяча ответов клиентам по документу стоит около 210 ₽, как показывает расчёт стоимости агента. Компьютер с 32 ГБ памяти под серьёзную локальную модель обойдётся во много раз дороже, чем годы работы облачной модели при такой нагрузке. Поэтому экономия на токенах почти никогда не повод переходить на локальную нейросеть.

Локально стоит запускать, если:

• документы нельзя передавать за пределы компании ни при каких условиях;
• нужна работа без интернета;
• нужно обработать огромный объём текста, и счёт за облако становится заметным;
• хочется разобраться, как устроены нейросети, без оплаты за каждый эксперимент.

Самообман, если: вы ждёте от модели на ноутбуке качества больших облачных нейросетей или хотите, чтобы она круглосуточно отвечала клиентам с вашего рабочего компьютера. Для этого нужен сервер, и тогда проще и дешевле облачная модель.

Что выбрать: короткие рекомендации

Компьютер с 8 ГБ памяти. Попробуйте Qwen3.5 4B для простых задач. Для работы с документами такого компьютера мало.

Компьютер с 16 ГБ. YandexGPT 5 Lite или GigaChat 3.1 Lightning для текстов на русском, Qwen3.5 9B как универсальный вариант.

Компьютер с 32 ГБ и больше. Gemma 4 26B или Qwen3.5 27B для длинных документов и задач, где нужно рассуждать.

Нужен агент, который отвечает клиентам. Облачная модель. Какие есть у Яндекса и сколько они стоят, разобрано в обзоре моделей YandexGPT, а чем они отличаются от GigaChat, показывает сравнение российских моделей.

На локальной модели удобно учиться и проверять идеи, не думая о счёте за каждый запрос: из таких частей и собирают бесплатных ИИ-агентов.

Лицензии русских моделей

GigaChat 3.1 Lightning выпущена под лицензией MIT: её можно свободно использовать в бизнесе.

У YandexGPT 5 Lite своя лицензия. Бизнесу пользоваться можно, но если модель выдаёт больше 10 млн токенов в месяц, нужно обратиться в Яндекс и договориться об условиях. Токен — это кусочек слова в три-четыре буквы, а 10 млн токенов на выходе хватит больше чем на тысячу ответов клиентам в день. Небольшой компании до этого порога далеко.