6.3 KiB
6.3 KiB
Ollama + OpenClaw 配置指南
概述
Ollama 是一个本地 LLM 运行时,让你能轻松在本地运行开源模型。OpenClaw 通过 OpenAI 兼容 API 与 Ollama 集成。
一、Ollama 安装与配置
安装 Ollama
# Linux
curl -fsSL https://ollama.ai/install.sh | sh
# 启动服务
ollama serve
# 设置开机自启(Linux)
sudo systemctl enable ollama
sudo systemctl start ollama
配置跨主机访问
默认只监听 127.0.0.1,需要配置才能从其他机器访问:
# 方法1:环境变量
export OLLAMA_HOST=0.0.0.0:11434
# 方法2: systemd 服务配置
sudo systemctl edit ollama
添加:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
重启服务:
sudo systemctl daemon-reload
sudo systemctl restart ollama
验证:
curl http://192.168.0.66:11434/api/tags
二、OpenClaw 配置 Ollama
方法1:自动发现(推荐)
设置环境变量即可自动发现模型:
# 设置 API key(任意值,Ollama 不验证)
export OLLAMA_API_KEY="ollama-local"
# 或在配置中设置
openclaw config set models.providers.ollama.apiKey "ollama-local"
自动发现会:
- 查询
/api/tags和/api/show - 只保留报告支持工具的模型
- 自动设置 contextWindow 和 maxTokens
方法2:显式配置(远程主机)
当 Ollama 在其他主机时,需要显式配置:
{
"models": {
"providers": {
"ollama": {
"baseUrl": "http://192.168.0.66:11434/v1",
"apiKey": "ollama-local",
"api": "openai-completions"
}
}
}
}
设置默认模型
{
"agents": {
"defaults": {
"model": {
"primary": "ollama/llama3.3",
"fallbacks": ["ollama/qwen2.5-coder:32b"]
}
}
}
}
三、推荐模型
对话模型
| 模型 | 大小 | 说明 |
|---|---|---|
| llama3.3 | ~5GB | 70B 参数,推荐主力 |
| qwen2.5-coder:32b | ~20GB | 代码能力强 |
| deepseek-r1:32b | ~20GB | 推理能力强 |
拉取命令:
ollama pull llama3.3
ollama pull qwen2.5-coder:32b
ollama pull deepseek-r1:32b
Embedding 模型(用于内存管理)
| 模型 | 大小 | 说明 |
|---|---|---|
| nomic-embed-text | ~137MB | 推荐,质量好 |
| mxbai-embed-large | ~334MB | 更大,质量更好 |
| all-minilm | ~23MB | 轻量级 |
拉取命令:
# 推荐
ollama pull nomic-embed-text
# 或轻量级
ollama pull all-minilm
验证 Embedding 模型
curl http://192.168.0.66:11434/api/tags | python3 -c "import sys,json; print([m['name'] for m in json.load(sys.stdin).get('models',[])])"
四、内存管理器配置
启用内存管理器
内存管理器需要 embedding 模型:
{
"models": {
"providers": {
"ollama": {
"baseUrl": "http://192.168.0.66:11434/v1",
"apiKey": "ollama-local",
"api": "openai-completions",
"embedding": "nomic-embed-text" // 指定 embedding 模型
}
}
}
}
环境变量配置
# OpenClaw 配置文件
export OLLAMA_API_KEY="ollama-local"
export OLLAMA_EMBEDDING_MODEL="nomic-embed-text"
五、故障排查
Ollama 未检测到
# 1. 检查 Ollama 是否运行
ps aux | grep ollama
# 2. 检查 API 是否可达
curl http://localhost:11434/api/tags
# 3. 重启 Ollama
ollama serve
# 4. 检查环境变量
echo $OLLAMA_API_KEY
没有可用模型
OpenClaw 只自动发现支持工具的模型:
# 检查模型是否安装
ollama list
# 拉取支持工具的模型
ollama pull llama3.3
# 或显式配置模型(如果不想用自动发现)
openclaw config set models.providers.ollama.models[0].id "llama3.3"
连接被拒绝
# 检查端口
lsof -i :11434
# 检查防火墙
sudo ufw status
# Ollama 绑定地址
curl http://127.0.0.1:11434/api/tags # 本机测试
curl http://192.168.0.66:11434/api/tags # 远程测试
模型不工作
# 测试模型运行
ollama run llama3.3 "Hello"
# 检查模型信息
ollama show llama3.3
六、完整配置示例
单机配置(Ollama 和 OpenClaw 同机)
{
"models": {
"providers": {
"ollama": {
"apiKey": "ollama-local",
"models": [
{ "id": "llama3.3", "contextWindow": 32768 },
{ "id": "qwen2.5-coder:32b" }
]
}
}
},
"agents": {
"defaults": {
"model": {
"primary": "ollama/llama3.3"
}
}
}
}
多机配置(主力机 Ollama + OpenClaw 独立)
主力机 (192.168.0.66):
# Ollama 配置
export OLLAMA_HOST=0.0.0.0:11434
systemctl restart ollama
# 拉取模型
ollama pull llama3.3
ollama pull nomic-embed-text
OpenClaw 主机:
{
"models": {
"providers": {
"ollama": {
"baseUrl": "http://192.168.0.66:11434/v1",
"apiKey": "ollama-local",
"api": "openai-completions"
},
"minimax": { /* ... */ },
"deepseek": { /* ... */ }
}
},
"agents": {
"defaults": {
"model": {
"primary": "ollama/llama3.3",
"fallbacks": ["deepseek/deepseek-chat", "minimax/minimax-m2.1"]
}
}
}
}
七、性能优化
模型加载
# 预加载模型(加速首次调用)
ollama pull llama3.3
# 查看已加载模型
ollama ps
资源管理
# 设置 GPU 使用率(如果有多 GPU)
export CUDA_VISIBLE_DEVICES=0
# 设置内存限制
export OLLAMA_NUM_PARALLEL=4
监控
# 查看 Ollama 日志
journalctl -u ollama -f
# 查看资源使用
htop | grep ollama
八、相关命令速查
| 任务 | 命令 |
|---|---|
| 列出模型 | ollama list |
| 拉取模型 | ollama pull <model> |
| 删除模型 | ollama rm <model> |
| 运行模型 | ollama run <model> |
| 查看模型信息 | ollama show <model> |
| 查看运行中模型 | ollama ps |
| 测试 API | curl http://localhost:11434/api/tags |
九、相关文档
最后更新: 2026-02-04