Как выбрать сборку модели под память компьютера

1. Определить ограничения

Уточните объём памяти, доступной для модели: видеопамяти или оперативной памяти при запуске на процессоре.
Выберите начальную разрядность по ориентиру ниже. Учитывайте размер конкретной модели: это стартовые ориентиры, а не гарантия запуска.
8 ГБ: для модели на 27 миллиардов параметров памяти может не хватить ни в одной из рассматриваемых сборок. Начните с модели поменьше.
16 ГБ: начните с 4–5 бит и повышайте разрядность, пока приложение отмечает сборку как подходящую.
32 ГБ и больше: рассмотрите 6–8 бит.
Оставьте память под контекст сверх размера файла модели. Четверть памяти в запасе — грубый ориентир; для длинных диалогов запас должен быть больше.

Установите LM Studio и найдите нужную модель через поиск приложения.
Сверьте название и разработчика с официальной страницей. Пример из материала: Qwen3.8-27B.
Откройте карточку модели и сравните размеры доступных сборок.
Выберите официальную сборку с самой высокой разрядностью среди отмеченных приложением как подходящие вашему компьютеру.
Проверьте, что файл заметно меньше свободной памяти и оставляет запас под контекст.
Если сборка не подходит, спуститесь на одну ступень разрядности и снова проверьте отметку совместимости.
Скачайте одну выбранную сборку. Не загружайте сразу несколько тяжёлых файлов «на пробу».

Откройте раздел со своими моделями и запустите скачанную модель в новом чате.
Убедитесь, что модель отвечает и приложение не сообщает о нехватке памяти. При ошибке памяти попробуйте следующую ступень ниже.
Проверьте задержку первого ответа: задержки в десятки секунд уже на первом сообщении — повод пересмотреть выбор.
Дайте модели свою задачу в несколько шагов. Проверьте удержание последовательности, числа, имена и точные формулировки; для кода — необходимость исправлений.
Если потребуется сравнить сборки, используйте один и тот же многошаговый запрос. Короткое приветствие не показывает потерю качества от сжатия.
При выборе между маленькой моделью высокой разрядности и большой моделью низкой разрядности сравните их на своей задаче: универсального победителя нет.

Выбрана самая высокая подходящая разрядность, а не самая маленькая сборка по привычке.
Сохранён запас памяти под диалог.
Проверено качество решения, а не только скорость: сильное сжатие может ухудшать многошаговые ответы, точность деталей и код.