Перейти к содержимому

НейросетиРазбор

Ollama отвечает, но JSON-парсер падает. Проверьте потоковый режим

В ответе могут идти несколько JSON-объектов подряд. Показываем, как отличить поток от одного документа и выбрать способ чтения.

Иллюстрация: Ollama отвечает, но JSON-парсер падает. Проверьте потоковый режим
Содержание3 разделов

Ошибка Extra data после запроса к Ollama может означать, что программа пытается прочитать поток как один JSON-документ. У /api/generate поток включён по умолчанию: сервер передаёт отдельные объекты, разделённые переводами строк. Это NDJSON с типом application/x-ndjson.

Порядок ниже относится к нативному API Ollama, проверенному по документации 11 октября 2026 года. Сначала запишите версию через ollama --version. Сторонний шлюз может менять формат; его ответ проверяют отдельно.

Посмотрите на тело ответа

Учебный сокращённый поток выглядит так. Это придуманные фрагменты для проверки парсера, без обращения к модели:

{"response":"При","done":false}
{"response":"вет","done":false}
{"response":"","done":true}

После первого объекта остаются ещё два. Вызов json.loads для всего текста ожидает один документ, поэтому такое содержимое не подходит. Замена названия модели эту причину не устраняет. Проверьте заголовок Content-Type и реальные границы объектов.

Для короткого запроса отключите поток

В терминале macOS или Linux отправьте запрос на свой локальный сервер. MY_MODEL замените полным именем уже установленной модели, включая тег; этот пример ничего не скачивает:

curl http://localhost:11434/api/generate -H 'Content-Type: application/json' -d '{"model":"MY_MODEL","prompt":"Ответь одним словом: привет","stream":false}'

Ожидается один JSON-объект с полем response и признаком done. Точное слово модели не гарантируется. Если сервер вернул ошибку, сначала разберите её; наличие фигурных скобок ещё не означает успешную генерацию.

Если поток нужен, читайте его по строкам

Сохраните учебные строки в sample.ndjson в UTF-8. Следующий фрагмент Python 3.14 собирает текст и проверяет конечную запись:

import json
parts = []
finished = False
with open("sample.ndjson", encoding="utf-8") as f:
    for line in f:
        if not line.strip():
            continue
        item = json.loads(line)
        parts.append(item.get("response", ""))
        finished = item.get("done", False)
print("".join(parts))
print("finished:", finished)

Для образца результат: Привет и finished: True. Уберите последнюю строку: текст останется, признак завершения станет False. Это помогает не принять обрыв соединения за готовый ответ. Фрагмент демонстрирует формат файла; для живого клиента дополнительно нужны проверка HTTP и обработка ошибок потока.

NDJSON описывает упаковку ответа. Содержимое полей модели проверяйте отдельно, как в разборе структурированных ответов. Если проблема связана с памятью после запроса, пригодится проверка keep_alive.

Обложка создана с помощью ИИ и иллюстрирует рабочую ситуацию, без воспроизведения реального интерфейса.

Если ответ успешно разобран, но следующий вопрос теряет смысл, проверьте передачу истории в messages Ollama. Чтение потока и сохранение реплик решают разные задачи.

Птичка messgo спрашивает, как вам материал

Как вам материал?

Поделиться

Читайте также

Комментарии

Написать комментарий

Без регистрации: имя и почта не нужны, мы подпишем вас случайным именем. Комментарий появится после проверки редакцией.