Сравнение

Блог

Как выбрать VPS для локальной нейросети в 2026 году

Сколько RAM и диска нужно, чтобы крутить Ollama и Open WebUI на своём VPS, когда хватает CPU и когда уже пора смотреть GPU.

Локальная нейросеть на своём сервере — уже не эксперимент энтузиастов. В 2026 году так делают, чтобы не отдавать документы в чужой чат, не платить за каждый токен и не зависеть от того, что облачный API сегодня «временно недоступен в вашем регионе». На практике это почти всегда VPS с Ollama (или аналогом) и веб-интерфейсом вроде Open WebUI.

Ниже — сколько памяти закладывать под размер модели, чем CPU-инференс отличается от GPU и где смотреть VPS для ИИ.

1. Что именно вы запускаете

«Поставить нейросеть» — слишком широкая формулировка. От задачи зависит тариф:

  • Чат с открытой моделью (Ollama + Open WebUI) — один процесс инференса и лёгкий веб-интерфейс.
  • RAG по своим документам — к чату добавляются эмбеддинги, векторная база и место под индекс.
  • Агент с инструментами — модель плюс MCP-сервер или набор скриптов, которые ходят в API.
  • Генерация картинок — это уже другая история: без GPU почти бессмысленно, смотрите VPS с видеокартой.

Для первого пункта хватает обычного VPS. Для картинок и комфортной скорости больших моделей — нет.

2. RAM решает больше, чем число ядер

Веса модели должны помещаться в память. Если не помещаются, сервер начнёт свопиться, и ответ на один вопрос растянется на минуты.

Грубые ориентиры для квантованных моделей (Q4/Q5), плюс 2–4 ГБ на систему, контекст и Open WebUI:

  • 7–8B — от 8 ГБ RAM, комфортно 12–16 ГБ;
  • 14B — от 16 ГБ;
  • 32B — 32 ГБ и больше;
  • 70B — 64 ГБ RAM или GPU с большим объёмом VRAM, обычный «VPS за 500 ₽» это не вытянет.

Контекст тоже ест память. Длинный чат и большой num_ctx легко добавляют несколько гигабайт сверх веса модели. Если планируете скармливать модели договоры и переписки — берите запас, а не цифру «впритык».

Правило: не покупайте 8 vCPU и 4 ГБ RAM «потому что нейросеть любит процессор». На CPU она любит память и пропускную способность RAM. Ядра влияют на скорость токенов, но модель, которая не влезла, не ускорить ничем.

Как вообще читать строку тарифа — в отдельном разборе CPU, RAM, диск и канал.

3. CPU-инференс: когда его достаточно

На центральном процессоре локальная модель отвечает медленнее, чем в привычном облачном чате. Для 8B на приличном VPS это часто 5–20 токенов в секунду. Для черновика письма, разбора тикета или внутреннего поиска по базе — нормально. Для «печатает как ChatGPT» на модели 32B — нет.

CPU имеет смысл, если:

  • модель небольшая (7–14B) и пользователей один-три;
  • важнее приватность и фикс-цена, чем мгновенный ответ;
  • задача пакетная: ночью разобрать пачку документов, а не болтать в реальном времени.

Смотрите тип виртуализации. KVM предсказуемее по CPU, чем контейнерные схемы с жёстким лимитом: на перепроданной ноде «6 ядер» в прайсе превращаются в долгие паузы между токенами. В каталоге есть отдельный рейтинг KVM.

4. Диск: модели тяжёлые, и их несколько

Одна квантованная 8B — это примерно 4–6 ГБ. 14B — около 8–10 ГБ. Плюс Open WebUI, логи, векторный индекс, бэкап.

Практичный минимум:

  • 40–80 ГБ NVMe — одна-две небольшие модели и интерфейс;
  • 100 ГБ и больше — если будете хранить несколько моделей и документы для RAG.

Тип диска важнее объёма на бумаге. Модель читается в RAM при старте: на HDD это десятки секунд или минуты, на NVMe — заметно быстрее. Для базы эмбеддингов медленный диск ещё и тормозит поиск.

Не ставьте модели на крошечный системный раздел «на 20 ГБ под ОС». Место заканчивается в самый неудачный момент — на середине ollama pull.

5. Сеть, доступ и кто вообще видит чат

Open WebUI — это сайт. Ему нужны:

  • белый IPv4 и нормальные 80/443;
  • HTTPS (Caddy или Nginx с Let's Encrypt хватает);
  • пароль или SSO, а не открытый порт в интернет «на пару дней потестить».

Локация влияет меньше, чем для обычного сайта: узкое место — генерация токенов, а не пинг. Но панель и загрузка моделей качаются с внешних реестров, поэтому «VPS без исходящего трафика» или с жёстким лимитом скорости неприятно удивит на первом же скачивании весов.

Если чатом пользуются коллеги из одного офиса — имеет смысл закрыть интерфейс VPN или basic auth, а не публиковать его как лендинг.

6. Когда пора на GPU

Переходите на GPU VPS, если:

  • нужна скорость, близкая к облачному чату;
  • модель 32B и выше должна отвечать людям, а не ночному скрипту;
  • в стеке есть генерация изображений или распознавание, которое на CPU не живёт.

Для чисто текстовой 8B GPU часто избыточен по деньгам: месяц видеокарты стоит как несколько обычных VPS, а выигрыш чувствуется в основном в интерактиве. Подробнее про VRAM и сценарии — в статье когда нужна видеокарта.

7. Бэкапы: что терять не страшно, а что страшно

Веса модели можно скачать заново. Нельзя безболезненно потерять:

  • историю чатов и системные промпты в Open WebUI;
  • векторный индекс и исходные документы;
  • ключи к инструментам, если модель ходит во внешние API.

Достаточно ежедневного снимка тома с данными и отдельной копии наружу (свой S3, другой сервер, архив у провайдера). Снимок всего диска на 80 ГБ «вместе с моделями» тоже работает, но восстанавливается дольше и стоит дороже.

8. Безопасность, о которой забывают после первого удачного ответа

Локальная модель не делает сервер безопасным. Наоборот: на нём лежат документы, которые вы как раз не хотели отдавать наружу.

Минимум:

  • SSH по ключу, парольный вход выключен;
  • интерфейс чата не торчит без аутентификации;
  • обновления ОС и контейнеров по расписанию;
  • секреты не в команде docker run, а в файле с правами, которые не читает кто попало.

Провайдер с вменяемой поддержкой здесь полезнее «самого дешёвого на рынке»: когда нода перезагружается посреди загрузки модели на 20 ГБ, хочется тикет, а не форум.

9. Чек-лист перед оплатой

  1. Модель влезает в RAM с запасом 2–4 ГБ, а не «впритык по таблице из интернета».
  2. Диск NVMe, места хватает на веса, индекс и систему.
  3. KVM или честно описанные лимиты CPU — иначе токены будут идти рывками.
  4. Есть 80/443 и нормальный исходящий канал, чтобы скачать модель.
  5. План, кто имеет доступ к чату и как он закрыт.
  6. Бэкап данных чата и документов, отдельно от весов.
  7. Помесячная оплата или тестовый период: сначала замерьте токены в секунду на своей задаче, потом берите конфиг помощнее.

10. Как выбрать провайдера на ruvps.top

Откройте рейтинг VPS для ИИ и рядом — обычный рейтинг VPS, если нужен просто большой объём RAM без маркетинговой пометки «AI». Дальше:

  • отфильтруйте по цене и посмотрите, у кого в тарифе честно указаны RAM и тип диска;
  • для интерактива сравните варианты с GPU;
  • отметьте 2–3 компании в сравнении и проверьте отзывы по стабильности, а не по «самой низкой цене».

Если бюджет и задача ещё плавают — мастер подбора сузит список до того, как вы начнёте сравнивать 32 ГБ с 8 ГБ «на глаз».

Итог: рабочий VPS для локальной нейросети — это в первую очередь память под конкретный размер модели, быстрый диск и закрытый интерфейс. Число ядер и слово «AI» в названии тарифа вторичны. Начните с рейтинга VPS для ИИ, возьмите конфиг под 8B или 14B помесячно и уже по реальной скорости токенов решайте, оставаться на CPU или переезжать на GPU.