1000 B
1000 B
title, type, tags, last_updated
| title | type | tags | last_updated | ||||
|---|---|---|---|---|---|---|---|
| 本地LLM | concept |
|
2026-04-13 |
Definition
本地LLM是在本地服务器部署运行的大语言模型，不依赖外部API服务。
优势
- 隐私：数据不离开本地
- 成本：无API调用费用
- 离线：无需互联网连接
- 定制：可微调模型
Ollama部署流程
# 1. 安装
curl -fsSL https://ollama.com/install.sh | sh
# 2. 下载模型
ollama pull qwen2.5-coder:7b
# 3. 运行
ollama run qwen2.5-coder:7b
推荐模型
| 模型 | 大小 | 用途 |
|---|---|---|
| qwen2.5-coder:7b | 4.6GB | 代码生成、DevOps |
| qwen2.5-coder:3b | ~2GB | 轻量任务 |
与n8n集成
n8n通过HTTP Request调用Ollama API：
POST http://localhost:11434/api/generate
{
"model": "qwen2.5-coder:7b",
"prompt": "..."
}