Чек-листНовое
кодовое словоШлюз

Настройка FreeLLMAPI

Проведём от проверки ключей провайдеров до испытания перехода между моделями.

Содержание4 глав
  1. 01Собрать ключи
  2. 02Поднять роутер
  3. 03Настроить переход
  4. 04Подключить рабочий инструмент

Собрать ключи

  • Открыть репозиторий FreeLLMAPI и выбрать четыре-пять провайдеров с подходящим бесплатным уровнем.
  • Получить ключи и сохранить их в файле окружения, не отправляя в переписку.
  • Сделать по одному пробному запросу к каждому провайдеру напрямую, до подключения роутера.

Поднять роутер

  • Развернуть FreeLLMAPI по инструкции репозитория и задать собственный общий ключ для клиентов.
  • Проверить ответ роутера со списком моделей: в нём должны быть модели нескольких подключённых провайдеров.
  • Проверить хранение провайдерских ключей и ограничить доступ к роутеру локальной сетью или собственной системой доступа.

Настроить переход

  • Поставить первым провайдера с приемлемым качеством ответа, вторым — другую модель, последним — резерв с наиболее щедрым лимитом.
  • Отключить первого провайдера и повторить запрос: он должен дойти до второго.
  • Убедиться, что цепочка содержит больше одного провайдера.

Подключить рабочий инструмент

  • Указать адрес совместимого эндпоинта роутера и общий ключ в Claude Code, Cursor или Aider.
  • Выполнить целую рабочую задачу и посмотреть журнал переключений; для проверки цепочки нужен переход минимум между двумя провайдерами.
  • Использовать такую схему для черновых массовых правок, разбора логов, тестов или переводов. Для задач, где требуется строго одна модель, отключить автоматическое переключение.