# Подбираем локальную LLM под железо

Подбор локальной языковой модели с учётом CPU, RAM, GPU, VRAM, скорости и свободного места на компьютере.

## Установить llmfit

- [ ] Откройте [репозиторий llmfit](https://github.com/AlexsJones/llmfit).
- [ ] Выберите один способ установки.

**macOS или Linux:**

```bash
brew install AlexsJones/llmfit/llmfit
```

**Windows:**

```powershell
scoop install llmfit
```

**Разовый запуск через uv без системной установки:**

```bash
uvx llmfit
```

## Проверить определение компьютера

- [ ] Запустите интерактивную таблицу:

```bash
llmfit
```

- [ ] Получите диагностический отчёт:

```bash
llmfit doctor
```

- [ ] Сверьте CPU, RAM, GPU, VRAM и выбранный backend с реальными характеристиками компьютера.
- [ ] Если GPU не определился, учитывайте, что оценки будут рассчитаны для CPU.

## Подобрать модель

- [ ] Посмотрите модели, которые подходят системе:

```bash
llmfit fit
```

- [ ] Получите рекомендации в JSON для скрипта или агента:

```bash
llmfit recommend --json
```

- [ ] Оцените модель по четырём показателям от 0 до 100:

- помещается ли она в память;
- ожидаемая скорость;
- качество;
- доступный контекст.

- [ ] Не скачивайте модель с красной оценкой совместимости.
- [ ] Не выбирайте автоматически самую большую зелёную модель: сравните скорость, качество и контекст под конкретную задачу.

## Проверить место на диске

- [ ] Рассчитайте хранилище для трёх самых крупных выбранных моделей:

```bash
llmfit storage --keep 3 --selection largest --json
```

- [ ] Убедитесь, что требуемый объём меньше свободного места.
- [ ] Оставьте запас под временные файлы и системные резервы.

## Проверить реальную скорость

- [ ] Запустите практический тест:

```bash
llmfit bench
```

- [ ] Используйте результат бенчмарка вместо предварительной оценки скорости.
- [ ] Изучите подробности конкретной модели:

```bash
llmfit info "имя модели"
```

- [ ] Перед скачиванием подтвердите четыре условия: модель помещается в память, скорость приемлема, качество соответствует задаче, места на диске достаточно.

---

Источник: https://localhost:3000/m/chek-list-podobrat-lokalnuyu-neyroset-pod-kompyuter-s-llmfit