С чем связана ошибка?
Пользователи LM Studio, устанавливающие модели семейства Qwen3.5 (особенно версии с поддержкой режима мышления), иногда сталкиваются с сообщением:
Error rendering prompt with jinja template: "No user query found in messages."
Ошибка возникает на этапе форматирования промпта — LM Studio пытается применить встроенный в модель Jinja-шаблон, но не может найти последнее сообщение пользователя. Чаще всего это происходит из-за несовместимости шаблона с текущей версией LM Studio или из-за повреждённых метаданных GGUF-файла, особенно в моделях, которые используют теги для внутреннего мышления.
Почему это происходит именно с Qwen3.5?
Модели Qwen3 поставляются со сложными Jinja-шаблонами, которые:
- Обрабатывают системные сообщения и инструменты (tools).
- Для режима мышления вставляют открывающий тег
перед ответом ассистента. - Используют специальные токены
<|im_start|>и<|im_end|>.
Если шаблон был изменён при конвертации в GGUF или версия LM Studio не поддерживает некоторые конструкции, парсер сбивается и не видит структуру диалога. В результате — ошибка "No user query found".
lmstudio-community, вероятность проблемы возрастает.
Способы исправления
1. Обновите LM Studio до актуальной версии
Разработчики регулярно исправляют ошибки парсинга. Например, в версии 0.4.2 была улучшена поддержка Qwen3‑моделей. Проверьте наличие обновлений в самом приложении или скачайте свежую версию с официального сайта.
2. Используйте модель от «lmstudio-community» (рекомендуется)
На Hugging Face опубликованы исправленные GGUF‑файлы, в которых шаблон промпта уже адаптирован для LM Studio. Чтобы загрузить такую модель:
- В интерфейсе LM Studio перейдите на вкладку Search.
- В строке поиска введите
lmstudio-community/Qwen3.5(например,lmstudio-community/Qwen3.5-14B-Instruct-GGUF). - Скачайте и загрузите модель. После этого ошибка, скорее всего, исчезнет.
3. Ручная замена Jinja-шаблона в настройках модели
Если по какой‑то причине вы хотите оставить текущую модель, можно переопределить шаблон вручную. Для этого:
- В LM Studio откройте My Models → найдите нужную модель → нажмите на шестерёнку (Settings).
- В разделе Prompt Engineering найдите поле Template (Jinja).
- Замените существующее содержимое на код ниже. Этот шаблон учитывает режим мышления и корректен для большинства версий Qwen3.5.
{%- if messages[0].role == 'system' %}
{%- set system_message = messages[0].content %}
{%- set loop_messages = messages[1:] %}
{%- else %}
{%- set system_message = null %}
{%- set loop_messages = messages %}
{%- endif %}
{{- '<|im_start|>system\n' }}
{%- if system_message %}
{{- system_message }}
{%- endif %}
{%- if tools %}
{{- '\n\n# Tools\n\nYou may call one or more functions to assist with the user query.\n\nYou are provided with function signatures within XML tags:\n' }}
{%- for tool in tools %}
{{- '\n' + tool | tojson }}
{%- endfor %}
{{- '\n \n\nFor each function call, return a json object with function name and arguments within XML tags:\n\n{"name": , "arguments": }\n ' }}
{%- endif %}
{{- '<|im_end|>\n' }}
{%- for message in loop_messages %}
{{- '<|im_start|>' + message.role + '\n' + message.content + '<|im_end|>\n' }}
{%- endfor %}
{%- if add_generation_prompt %}
{{- '<|im_start|>assistant\n' }}
{# Опционально: добавляем открывающий тег think, если модель ожидает его в начале ответа #}
{{- '\n' }}
{%- endif %}
Примечание: Если после применения шаблона ответы начинаются с двух тегов , закомментируйте или удалите строку {{- '.
4. Временное отключение режима мышления (диагностика)
Чтобы проверить, связана ли ошибка именно с тегами мышления, можно добавить в системный промпт инструкцию:
You are a helpful assistant. Do not use the tag and do not output any thinking process. Answer directly.
Если после этого ошибка исчезает — значит, проблема в обработке , и вам необходимо выполнить шаг 2 или 3.
Дополнительные рекомендации
- Проверьте целостность GGUF-файла. Откройте скачанный файл в текстовом редакторе (например, Notepad++) и найдите фрагмент
"chat_template". Если шаблон обрывается или содержит битые символы — перекачайте модель из надёжного источника. - Актуальная версия LM Studio. Минимально рекомендуемая версия для комфортной работы с Qwen3 — 0.4.2 или выше.
- Сообщество. Если ни одно из решений не помогло, опишите проблему на официальном Discord-сервере LM Studio или в GitHub Issues. Приложите ссылку на модель и версию программы.
Заключение
Ошибка «No user query found in messages» при использовании Qwen3.5 в LM Studio — это следствие конфликта между встроенным Jinja-шаблоном и внутренними механизмами программы. Чаще всего она решается обновлением LM Studio, переходом на модель от lmstudio-community или ручной заменой шаблона. Выберите способ, который подходит вам, и уже через несколько минут вы сможете полноценно общаться с моделью, включая её режим мышления.
Помните: семантически правильный шаблон — залог стабильной работы. Не стесняйтесь обращаться к сообществу, если столкнулись с нестандартной ситуацией.