47 lines
1000 B
Markdown
47 lines
1000 B
Markdown
---
|
||
title: "本地LLM"
|
||
type: concept
|
||
tags: [llm, ollama, local, ai]
|
||
last_updated: 2026-04-13
|
||
---
|
||
|
||
## Definition
|
||
本地LLM是在本地服务器部署运行的大语言模型，不依赖外部API服务。
|
||
|
||
## 优势
|
||
- 隐私：数据不离开本地
|
||
- 成本：无API调用费用
|
||
- 离线：无需互联网连接
|
||
- 定制：可微调模型
|
||
|
||
## Ollama部署流程
|
||
```bash
|
||
# 1. 安装
|
||
curl -fsSL https://ollama.com/install.sh | sh
|
||
|
||
# 2. 下载模型
|
||
ollama pull qwen2.5-coder:7b
|
||
|
||
# 3. 运行
|
||
ollama run qwen2.5-coder:7b
|
||
```
|
||
|
||
## 推荐模型
|
||
| 模型 | 大小 | 用途 |
|
||
|------|------|------|
|
||
| qwen2.5-coder:7b | 4.6GB | 代码生成、DevOps |
|
||
| qwen2.5-coder:3b | ~2GB | 轻量任务 |
|
||
|
||
## 与n8n集成
|
||
n8n通过HTTP Request调用Ollama API：
|
||
```bash
|
||
POST http://localhost:11434/api/generate
|
||
{
|
||
"model": "qwen2.5-coder:7b",
|
||
"prompt": "..."
|
||
}
|
||
```
|
||
|
||
## 相关文档
|
||
- [[在 Ubuntu 安装 Ollama 并运行 Qwen2.5-Coder 7B]]
|
||
- [[可自动化、可扩展、AI增强的电商数据采集与处理系统]] |