Сравнение

Блог

GPU VPS для инференса: когда хватает CPU, а когда нужна видеокарта

VRAM, а не название видеокарты, решает, влезет ли модель. Разбираем, когда GPU VPS оправдан для текста и картинок, а когда обычного сервера достаточно.

Видеокарта в тарифе VPS в 2026 году продаётся легко: «для нейросетей» пишут почти все, у кого в стойке есть хотя бы одна карта. Покупателю от этого не легче. Для части задач GPU — единственный рабочий вариант. Для других это способ переплатить в несколько раз за скорость, которая вам не нужна.

Ниже — как отличить одно от другого и где смотреть VPS с GPU. Про обычный сервер под модель без видеокарты есть отдельный разбор: VPS для локальной нейросети.

1. Сначала сценарий, потом модель карты

GPU оправдан, если хотя бы один пункт ваш:

  • чат должен отвечать быстро нескольким людям, а не одному пользователю «когда-нибудь»;
  • модель крупная, и на CPU токены ползут так, что инструментом не пользуются;
  • нужна генерация изображений, апскейл, часть задач по видео или распознаванию;
  • вы крутите чужие эксперименты пакетами и считаете часы, а не «сервер навсегда».

GPU избыточен, если:

  • модель 7–8B отвечает вам одному, и 10–15 токенов в секунду на CPU вас устраивают;
  • задача ночная и пакетная: к утру результат готов — и этого достаточно;
  • «нейросеть» в проекте — это вызовы чужого API, а свой сервер только проксирует запросы. Тогда смотрите обычный VPS или подборки под конкретный API, например VPS для Claude.

Название вроде «NVIDIA в комплекте» не отвечает на вопрос, влезет ли модель. Отвечает объём памяти видеокарты.

2. VRAM — главный лимит

Веса и контекст должны оказаться в VRAM. Если не оказались, фреймворк начнёт добирать обычную RAM и скорость упадёт почти до CPU-уровня — при цене GPU.

Ориентиры для квантованного текста (порядок, не паспорт модели):

  • 8 ГБ VRAM — небольшие модели 7–8B, тесный контекст, картинки только у лёгких чекпойнтов;
  • 16 ГБ — комфортнее 8B и часть моделей около 14B, базовые графические пайплайны;
  • 24 ГБ — 14–32B в разумной квантизации, запас под контекст и картинки посерьёзнее;
  • 40–80 ГБ — крупные текстовые модели и тяжёлые графические задачи, это уже другой бюджет.

Системная RAM рядом с картой всё равно нужна: ОС, загрузчик, веб-интерфейс, предобработка. 16 ГБ RAM при 8 ГБ VRAM — частый минимум. Тариф «мощная карта и 4 ГБ оперативки» будет упираться не в GPU.

Диск оставьте быстрым. Веса на 10–40 ГБ при каждом новом запуске читаются с накопителя: NVMe здесь не роскошь. И места должно хватить на две модели, а не на одну «впритык к системе».

3. Текст и картинки — разные покупки

Текстовый инференс на GPU покупают ради задержки. Разница между «ответ за две секунды» и «ответ за сорок» решает, будут ли сотрудники пользоваться внутренним чатом.

Картинки и смежные задачи на CPU часто просто не имеют бытового смысла: минуты на один кадр, шум системы, спорная экономия. Если продукт — генерация изображений, начинать с безGPU-тарифа «на пробу» почти всегда потерянный день.

Смешивать на одной карте постоянный чат и тяжёлую генерацию картинок можно только с запасом VRAM. Иначе одно задание вытесняет модель другого, и оба сервиса начинают заново грузить веса. Для команды дешевле два профиля использования по времени, чем одна карта «на всё сразу».

4. Почасовая оплата и месяц вперёд

GPU простаивает дорого. Имеет смысл разделить режимы:

  • почасовая или подневная оплата — эксперимент, разовый прогон, обучение небольшого адаптера, бенчмарк модели;
  • месяц — внутренний чат, который должен быть онлайн в рабочее время;
  • обычный VPS + облачный API — если свой GPU занят четыре часа в неделю. Аренда карты на 730 часов почти никогда не выигрывает у такого режима.

Перед длинной оплатой замерьте свою задачу на коротком тарифе: токены в секунду, время старта, влезает ли контекст, который вам нужен, а не демо на трёх фразах. В каталоге есть VPS с тестовым периодом — для GPU его дают реже, поэтому хотя бы не берите квартал вперёд на непроверенной карте.

Смотрите, что происходит при выключении. На некоторых площадках остановленная машина не тарифицирует GPU, но диск и IP остаются платными. Это нормально, если вы про это знаете до счёта.

5. Драйверы, CUDA и «карта есть, софта нет»

Рабочий GPU-тариф — это не только железо в прайсе. До оплаты выясните:

  • кто ставит драйвер и какой стек (драйвер NVIDIA, CUDA) уже в образе;
  • можно ли выбрать свежий образ с нужной мажорной версией, а не «Ubuntu трёхлетней давности»;
  • карта целиком ваша на время сессии или это доля, о которой напишут мелким шрифтом;
  • есть ли ограничение по времени одной сессии.

Виртуализация здесь чувствительнее, чем у обычного VPS. Если в отзывах пишут, что карта «отваливается после перезагрузки» или видна только через тикет в поддержку, для инференса это хуже, чем скромный объём VRAM. Как читать такие отзывы — в гайде про отзывы хостеров.

Панель управления почти не важна. Важны SSH, образ и то, что nvidia-smi показывает карту без переписки с саппортом.

6. Сеть и данные

Модель качается один раз, зато большим файлом. Узкий исходящий или входящий канал превращает вечер в ожидание. Для продукта, которым пользуются люди, канал уже про ответы интерфейса: они маленькие, здесь хватает обычного порта.

Не кладите на GPU-сервер единственную копию датасета и переписки клиентов. Карточные тарифы чаще пересоздают, чем классический VPS. Данные — на отдельном диске или в объектном хранилище, веса можно скачать снова.

Если сервер ещё и принимает запросы из интернета (свой Open WebUI, API для команды), закройте его так же, как любой другой сервис: TLS, пароль или VPN, никакого открытого порта с моделью «на посмотреть друзьям».

7. Когда хватит мощного CPU-VPS

Оставайтесь без видеокарты, если сходится арифметика:

  • модель помещается в RAM (для 8B часто 16 ГБ с запасом, для 14B — от 16–32 ГБ);
  • пользователей мало, и они готовы к более медленному ответу;
  • бюджет GPU уходит в ноль каждую ночь, потому что чатом никто не пользуется.

В этом случае сравнивайте обычные конфигурации в рейтинге VPS и тематическую полку VPS для ИИ. Переезд на GPU потом не требует другой архитектуры приложения: Ollama и аналоги умеют оба режима. Меняется тариф, а не весь проект.

Обратный переезд тоже нормален. Если за месяц по логам карта простаивает, честнее остановить её и вернуть инференс на CPU или на внешний API.

8. Чек-лист перед оплатой

  1. Посчитан объём VRAM под вашу модель и контекст, а не «любая NVIDIA».
  2. Рядом достаточно обычной RAM и NVMe под веса.
  3. Понятно, карта целиком ваша или это доля.
  4. Образ с драйвером, который вы сможете обновить.
  5. Режим оплаты совпадает с режимом работы: часы, дни или месяц.
  6. Данные и бэкапы не живут только на этом сервере.
  7. Интерфейс наружу закрыт. Короткий тест на реальном промпте сделан до длинной оплаты.

9. Как выбрать провайдера на ruvps.top

Откройте рейтинг VPS с GPU. В карточке смотрите не слоган, а память видеокарты, обычную RAM, диск и цену. Дальше:

  • отложите 2–3 варианта в сравнение;
  • если карта нужна эпизодически, посчитайте месяц простоя против почасовой цены и против обычного VPS из общего рейтинга;
  • отзывы читайте про стабильность карты после ребута и про поддержку, это типичное слабое место GPU-тарифов.

Мастер подбора не заменит расчёт VRAM, но поможет не смотреть выделенные серверы и shared, когда вам нужен именно VPS.

Итог: GPU VPS нужен, когда скорость инференса или генерация картинок упирается в видеокарту, и объём VRAM вы уже прикинули под конкретную модель. Во всех остальных случаях обычный VPS с большой RAM дешевле и проще. Начните с рейтинга GPU, проверьте модель на коротком тарифе и только потом оставляйте карту включённой на месяц.