Перейти к содержанию

Модели

Koda CLI работает с моделями Koda и поддерживает подключение собственных OpenAI-совместимых моделей. Модель выбирается командой /model, флагом --model или настройкой model. Для сложных задач качество ответа регулируется уровнем размышлений (reasoning effort).

Выбор модели

По умолчанию используется модель koda-base.

Модель для сессии задаётся одним из способов:

  • команда /model внутри сессии — открывает диалог выбора;
  • флаг --model (или -m) при запуске CLI;
  • настройка model в settings.json;
  • переменная окружения KODA_MODEL.

koda-base KODA_MODEL

Приоритет от высшего к низшему: CLI-флаг → переменная окружения → settings.json → значение по умолчанию. Команда /model и флаг --model применяются к текущей сессии и сохраняются в настройках выбранной области (пользовательские, рабочие или системные).

Доступные модели

Список моделей, которые видны в диалоге /model, зависит от аккаунта и тарифа. Стоимость и лимиты моделей описаны в разделе Тарифы, модели и лимиты.

Команда /model

Введите /model в сессии — появится список доступных моделей. Переключайте область изменения клавишей Tab, выбор — Enter. Полное описание команды — в справочнике команд.

Флаг --model

Модель можно задать при запуске:

koda --model koda-base
koda -m koda-base -p "Объясни структуру проекта"

Подробнее о флаге — в справочнике аргументов.

Настройка model

Модель по умолчанию задаётся настройкой model в settings.json. Описание ключа — в настройках.

Сторонние модели

Koda CLI позволяет подключить OpenAI-совместимую модель. Каждое подключение — именованное: вы задаёте собственное имя, а также идентификатор модели у провайдера, базовый URL и API-ключ. Несколько подключений могут использовать один идентификатор модели с разными эндпоинтами и ключами — например, рабочий и личный провайдеры. Сохранённые подключения появляются в списке /model и помечаются как (своя).

Необязательно можно указать размер контекста подключения в токенах: он имеет приоритет над лимитами API провайдера. Пустое поле оставляет лимиты API, а без по умолчанию используется 200 000 токенов.

Сторонние модели недоступны для SaaS-пользователей.

Как добавить, отредактировать или удалить подключение — описано в справочнике команд.

Максимальный контекст

Размер окна контекста модели берётся из её метаданных: мягкий лимит по умолчанию и жёсткий максимум. Команда /maxcontext позволяет вручную ограничить контекст конкретной модели значением между ними — например, чтобы сессия сжималась раньше и оставалась экономнее.

/maxcontext                  открыть диалог настройки
/maxcontext 512000           задать лимит текущей модели
/maxcontext koda-pro 512000  задать лимит модели koda-pro
/maxcontext off              выключить ручное ограничение
/maxcontext status           показать текущие значения

Выбор модели в диалоге /maxcontext не переключает модель текущей сессии. Выключатель по умолчанию выключен: без него действует лимит по умолчанию, а введённое число запоминается. Новое значение должно быть целым положительным числом не больше жёсткого лимита модели; если максимум модели неизвестен, допустимы значения не больше известного лимита по умолчанию. Если метаданные API позже снизят потолок, сохранённое предпочтение ограничится сверху без удаления.

Значения хранятся в пользовательских настройках в ключе maxContextByModel и применяются к проверке бюджета контекста, сжатию, индикаторам использования и субагентам.

Подробнее о бюджете контекста — на странице о сжатии контекста.

Размышления модели

Некоторые модели обдумывают запрос перед ответом. Чем глубже размышления, тем больше времени и токенов модель тратит на анализ и тем выше качество ответа на сложных задачах. Низкие уровни отвечают быстрее и экономнее.

Команда /reasoning

Команда /reasoning (алиас /effort) устанавливает уровень размышлений для текущей модели:

/reasoning        открыть диалог выбора уровня
/reasoning high   установить уровень high
/effort low       то же через алиас

Выбор сохраняется для конкретной модели и применяется только если модель поддерживает этот уровень. Если модель не поддерживает размышления, команда сообщит об этом.

Уровни размышлений

Уровень Что означает
none Модель отвечает сразу, без обдумывания
minimal Короткое обдумывание перед ответом
low Беглый разбор простых задач
medium Баланс скорости и глубины
high Подробный разбор, ответ идёт дольше
xhigh Самый глубокий разбор для сложных задач

Каждая модель поддерживает свой набор уровней — в диалоге и автодополнении видны только доступные для выбранной модели. Если уровень не задан, используется уровень по умолчанию, который объявляет сервер.

Настройка reasoningEffortByModel

Уровень можно задать для нескольких моделей сразу настройкой reasoningEffortByModel в settings.json — для каждой модели свой уровень. Описание ключа с примером — в настройках.

Отображение размышлений

Сколько текста размышлений показывать во время ответа, регулируется отдельно от уровня. Режим меняется командой /reasoning display <режим> или отдельной командой /reasoning-display:

/reasoning display compact
/reasoning-display full

Доступные режимы — off, compact (по умолчанию), stream и full. Описание каждого режима и настройки reasoningDisplay — в настройках.

Настройки генерации

В отличие от некоторых CLI, Koda CLI не предоставляет прямого управления гиперпараметрами генерации (temperature, topP, maxOutputTokens). Параметры запроса определяются моделью и сервером Koda.

Качество и стиль ответа регулируются двумя средствами:

  • выбор модели — разные модели дают разный баланс скорости и глубины;
  • уровень размышлений — команда /reasoning или настройка reasoningEffortByModel.

Этого достаточно для большинства сценариев: простые задачи решаются быстрее на низком уровне, сложные — глубже на высоком.

Рекомендации

  • Простые задачи — конвертация форматов, короткие объяснения, генерация шаблонного кода. Используйте низкий уровень размышлений (low или minimal), чтобы получить ответ быстрее и экономнее.
  • Сложные задачи — многошаговая отладка, проектирование архитектуры, рефакторинг с риском регрессий. Повысьте уровень до high или xhigh, чтобы модель подробнее обдумала решение.
  • Переключение на лету — и модель, и уровень размышлений можно менять в любой момент сессии командами /model и /reasoning. Изменения применяются к следующему запросу.
  • Баланс по умолчанию — если не задавать уровень вручную, модель использует уровень по умолчанию, рекомендованный сервером. Это разумный старт для большинства задач.