Перейти к содержимому

НейросетиРазбор

Ollama забыла предыдущую реплику. Проверьте историю запроса

Второй запрос к API должен содержать нужную часть диалога. Разбираем, что отправить в messages и как отличить потерю истории от ошибки модели.

Иллюстрация: Ollama забыла предыдущую реплику. Проверьте историю запроса
Содержание2 разделов

Если приложение отправляет в Ollama только последнюю фразу, предыдущая переписка может остаться за пределами запроса. У нативного /api/chat история передаётся массивом messages. Открытое окно чата и загруженная модель ещё не показывают, какие реплики приложение действительно отправило.

Ниже разбор обычного текстового диалога по документации Ollama, проверенной 12 октября 2026 года. Запишите версию через ollama --version. Нужны работающий локальный сервер и уже установленная модель. Инструменты, изображения и thinking-поля требуют отдельной обработки; этот пример их не описывает.

Сравните два тела запроса

Учебная ситуация: пользователь сообщил выдуманный код заказа МАРС-27, затем спросил, какой код назвал. Если в messages остался только этот вопрос, данных для ответа в нём нет. Повторённое серверу имя модели не заменяет исходную реплику.

Вариант с историей выглядит так. Ответ assistant здесь придуман для объяснения структуры; в приложении на его месте должен стоять настоящий ответ сервера:

{
  "model": "MY_MODEL",
  "stream": false,
  "messages": [
    {"role": "user", "content": "Код моего учебного заказа МАРС-27."},
    {"role": "assistant", "content": "Код заказа принят."},
    {"role": "user", "content": "Какой код я назвал?"}
  ]
}

Сохраните JSON в новом файле request.json, заменив MY_MODEL точным именем своей локальной модели. Из терминала macOS или Linux отправьте:

curl http://localhost:11434/api/chat \
  -H 'Content-Type: application/json' \
  --data-binary @request.json

При успешном ответе проверьте message.content и done. Наличие кода в запросе даёт модели нужные данные, но не гарантирует точного ответа. Ошибку соединения или имя отсутствующей модели сначала устраните отдельно.

Проверьте историю до оценки ответа

Сначала посмотрите исходящий JSON на учебных данных. Убедитесь, что реплики идут в порядке разговора и роль assistant присвоена ответу модели. На следующий ход сохраните пару из нового сообщения user и полученного ответа, затем добавьте очередной вопрос. Такой цикл показан в официальном примере Ollama.

Сравнение полезно даже без запуска модели: вариант с одной репликой не содержит МАРС-27, вариант выше содержит. Если код присутствует в отправленном теле, причина уже не сводится к отсутствию этой реплики. Дальше проверяют ограничения выбранной модели и длину контекста.

Если JSON-парсер падает раньше чтения ответа, отдельно проверьте потоковый формат Ollama. Параметр stream false упрощает этот учебный запрос; он не добавляет историю сам по себе.

Обложка создана нейросетью как иллюстрация темы; она не воспроизводит реальный интерфейс программы.

Если история запроса уже проверена, отдельно сравните повторные генерации Ollama с одинаковыми параметрами. Для текста сравнивают response, а время и длительности ответа учитывают отдельно.

Если история уже доходит до сервера, проверьте чтение ответа: Ollama разделяет thinking и итоговый content.

Для отдельной сохраняемой инструкции модели можно задать SYSTEM через Modelfile Ollama. Наличие инструкции проверяется отдельно от переданной истории разговора.

Птичка messgo спрашивает, как вам материал

Как вам материал?

Поделиться

Читайте также

Комментарии

Написать комментарий

Без регистрации: имя и почта не нужны, мы подпишем вас случайным именем. Комментарий появится после проверки редакцией.