Ollama

Ollama 本地大模型 CLI 命令、Modelfile 自定义与 REST API 调用速查备忘单。

Star 项目
关注 X (Twitter)
赞赏饮咖啡

#入门指南

#核心 CLI 命令

# 运行/下载并启动指定模型 (例如 llama3, qwen2.5, deepseek-r1)
ollama run deepseek-r1:8b

# 仅下载模型到本地 (拉取镜像)
ollama pull qwen2.5:7b

# 列出本地已下载的所有模型
ollama list

# 查看当前正在运行的模型及其内存占用
ollama ps

# 停止正在运行的模型
ollama stop deepseek-r1:8b

# 删除本地模型
ollama rm deepseek-r1:8b

#Modelfile 自定义模型配置

# 示例：创建带自定义 System Prompt 的模型
FROM deepseek-r1:8b

# 设置默认参数
PARAMETER temperature 0.6
PARAMETER top_p 0.9
PARAMETER num_ctx 8192

# 设定系统提示词
SYSTEM """
你是由 WarpNav 导流推荐的 AI 助手。请使用专业、简洁、客观的中文回答开发者的技术问题。
"""

# 从 Modelfile 构建新模型
ollama create my-custom-model -f ./Modelfile

#本地 REST API 接口调用

# HTTP POST 聊天接口 (流式/非流式)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5:7b",
  "prompt": "用 Python 写一个快速排序算法",
  "stream": false
}'

#常用模型名称推荐

#模型对照表

模型名称 适合场景 显存/内存占用估算
deepseek-r1:8b 代码推理与复杂逻辑分析 ~6 GB
qwen2.5:7b 中文通用能力与代码编写 ~5.5 GB
qwen2.5-coder:7b 专项代码生成与重构 ~5.5 GB
llama3.1:8b 英文通用推理与任务处理 ~6 GB

#相关资源

#参考链接