С чем связана ошибка?

Пользователи LM Studio, устанавливающие модели семейства Qwen3.5 (особенно версии с поддержкой режима мышления), иногда сталкиваются с сообщением:

Error rendering prompt with jinja template: "No user query found in messages."

Ошибка возникает на этапе форматирования промпта — LM Studio пытается применить встроенный в модель Jinja-шаблон, но не может найти последнее сообщение пользователя. Чаще всего это происходит из-за несовместимости шаблона с текущей версией LM Studio или из-за повреждённых метаданных GGUF-файла, особенно в моделях, которые используют теги для внутреннего мышления.

Почему это происходит именно с Qwen3.5?

Модели Qwen3 поставляются со сложными Jinja-шаблонами, которые:

  • Обрабатывают системные сообщения и инструменты (tools).
  • Для режима мышления вставляют открывающий тег перед ответом ассистента.
  • Используют специальные токены <|im_start|> и <|im_end|>.

Если шаблон был изменён при конвертации в GGUF или версия LM Studio не поддерживает некоторые конструкции, парсер сбивается и не видит структуру диалога. В результате — ошибка "No user query found".

Важно: если вы используете модель, скачанную не из официального источника lmstudio-community, вероятность проблемы возрастает.

Способы исправления

1. Обновите LM Studio до актуальной версии

Разработчики регулярно исправляют ошибки парсинга. Например, в версии 0.4.2 была улучшена поддержка Qwen3‑моделей. Проверьте наличие обновлений в самом приложении или скачайте свежую версию с официального сайта.

2. Используйте модель от «lmstudio-community» (рекомендуется)

На Hugging Face опубликованы исправленные GGUF‑файлы, в которых шаблон промпта уже адаптирован для LM Studio. Чтобы загрузить такую модель:

  1. В интерфейсе LM Studio перейдите на вкладку Search.
  2. В строке поиска введите lmstudio-community/Qwen3.5 (например, lmstudio-community/Qwen3.5-14B-Instruct-GGUF).
  3. Скачайте и загрузите модель. После этого ошибка, скорее всего, исчезнет.

3. Ручная замена Jinja-шаблона в настройках модели

Если по какой‑то причине вы хотите оставить текущую модель, можно переопределить шаблон вручную. Для этого:

  1. В LM Studio откройте My Models → найдите нужную модель → нажмите на шестерёнку (Settings).
  2. В разделе Prompt Engineering найдите поле Template (Jinja).
  3. Замените существующее содержимое на код ниже. Этот шаблон учитывает режим мышления и корректен для большинства версий Qwen3.5.
{%- if messages[0].role == 'system' %}
    {%- set system_message = messages[0].content %}
    {%- set loop_messages = messages[1:] %}
{%- else %}
    {%- set system_message = null %}
    {%- set loop_messages = messages %}
{%- endif %}

{{- '<|im_start|>system\n' }}
{%- if system_message %}
    {{- system_message }}
{%- endif %}
{%- if tools %}
    {{- '\n\n# Tools\n\nYou may call one or more functions to assist with the user query.\n\nYou are provided with function signatures within  XML tags:\n' }}
    {%- for tool in tools %}
        {{- '\n' + tool | tojson }}
    {%- endfor %}
    {{- '\n\n\nFor each function call, return a json object with function name and arguments within  XML tags:\n\n{"name": , "arguments": }\n' }}
{%- endif %}
{{- '<|im_end|>\n' }}

{%- for message in loop_messages %}
    {{- '<|im_start|>' + message.role + '\n' + message.content + '<|im_end|>\n' }}
{%- endfor %}

{%- if add_generation_prompt %}
    {{- '<|im_start|>assistant\n' }}
    {# Опционально: добавляем открывающий тег think, если модель ожидает его в начале ответа #}
    {{- '\n' }}
{%- endif %}

Примечание: Если после применения шаблона ответы начинаются с двух тегов , закомментируйте или удалите строку {{- '\n' }}.

4. Временное отключение режима мышления (диагностика)

Чтобы проверить, связана ли ошибка именно с тегами мышления, можно добавить в системный промпт инструкцию:

You are a helpful assistant. Do not use the  tag and do not output any thinking process. Answer directly.

Если после этого ошибка исчезает — значит, проблема в обработке , и вам необходимо выполнить шаг 2 или 3.

Дополнительные рекомендации

  • Проверьте целостность GGUF-файла. Откройте скачанный файл в текстовом редакторе (например, Notepad++) и найдите фрагмент "chat_template". Если шаблон обрывается или содержит битые символы — перекачайте модель из надёжного источника.
  • Актуальная версия LM Studio. Минимально рекомендуемая версия для комфортной работы с Qwen3 — 0.4.2 или выше.
  • Сообщество. Если ни одно из решений не помогло, опишите проблему на официальном Discord-сервере LM Studio или в GitHub Issues. Приложите ссылку на модель и версию программы.

Заключение

Ошибка «No user query found in messages» при использовании Qwen3.5 в LM Studio — это следствие конфликта между встроенным Jinja-шаблоном и внутренними механизмами программы. Чаще всего она решается обновлением LM Studio, переходом на модель от lmstudio-community или ручной заменой шаблона. Выберите способ, который подходит вам, и уже через несколько минут вы сможете полноценно общаться с моделью, включая её режим мышления.

Помните: семантически правильный шаблон — залог стабильной работы. Не стесняйтесь обращаться к сообществу, если столкнулись с нестандартной ситуацией.

LevPRO

Дата публикации:

Обновлено:

Свежие записи в нашем блоге

696cdbc42bd48.png

Настройка RDP подключения в Linux

LevPRO

Полное руководство по настройке RDP в Linux дистрибутивах Протокол удаленного рабочего стола (RDP) — это стандартный способ удаленного управления компьютерами в корпоративных и домашних сетях....

68f203f78e9e4.jpeg

Установка и настройка OpenGL в дистрибутивах Linux

LevPRO

OpenGL (Open Graphics Library) — это кроссплатформенный программный интерфейс для разработки приложений, использующих двумерную и трёхмерную графику. В Linux-системах реализация OpenGL предоставляется...

Другая полезная информация