
Содержание3 разделов
После ответа Ollama может оставить локальную модель в памяти, чтобы следующий запрос начинался быстрее. FAQ указывает стандартный срок пять минут. Его могут изменить настройки сервера и отдельного запроса. Закрытие окна чата само по себе не показывает, выгружена ли модель.
Инструкция для установленной Ollama с локальной моделью и командами ps и stop. Сначала запишите версию через ollama --version. Используйте имя своей модели целиком, включая тег, если он есть. Ничего нового скачивать не нужно.
Сначала посмотрите, кто ещё работает
Завершите собственные задания в приложениях, использующих Ollama. На общем сервере согласуйте остановку: другую модель может использовать коллега. Затем выполните:
ollama ps
Это список загруженных моделей. Учебная ситуация: чат уже закрыт, но имя модели осталось в списке. Такое наблюдение совместимо с ожиданием следующего запроса; само по себе оно не доказывает утечку памяти.
Для локального сервера стандартного адреса список можно получить и через API:
curl http://localhost:11434/api/ps
Ответ содержит массив models. Если сервер настроен на другой адрес, этот пример его не проверяет. Ошибка соединения требует проверить адрес и запуск сервера; она не равна пустому списку моделей.
Выгрузите одну модель и проверьте повторно
Вместо MY_MODEL ниже подставьте имя из ps. Остановка не удаляет файл модели с диска:
ollama stop MY_MODEL
ollama ps
Нужное имя должно исчезнуть. Если оно вернулось, проверьте фонового клиента: новый запрос может снова загрузить модель. Не останавливайте все процессы подряд ради красивого показателя свободной RAM.
Список моделей показывает состояние Ollama, а общий монитор памяти показывает весь компьютер. Освобождение модели не означает, что все остальные приложения тоже освободили память.
Для разового API-запроса задайте срок заранее
Следующий пример для терминала macOS или Linux. Замените MY_MODEL на уже установленную локальную модель:
curl http://localhost:11434/api/generate \
-H 'Content-Type: application/json' \
-d '{"model":"MY_MODEL","prompt":"Ответь одним словом: готово","stream":false,"keep_alive":0}'
Ноль просит выгрузить модель после ответа. Проверьте, что запрос закончился, затем снова выполните ps. Для серии запросов можно задать срок, например «10m». Повторная загрузка после выгрузки добавляет работу перед следующим ответом; универсального лучшего срока нет.
Параметр запроса переопределяет серверный OLLAMA_KEEP_ALIVE. Если память занята именно во время длинного разговора, нужен другой разбор: проверка размера контекста. Первую настройку локального запуска описываем отдельно.
AI-обложка иллюстрирует локальную работу за компьютером, без реальных замеров памяти.
Если нужно убрать установленную модель с диска, используйте другой порядок: удаление одной модели Ollama через rm с проверкой списка ls.
Источники

Как вам материал?



Комментарии