42 lines
1.7 KiB
Markdown
42 lines
1.7 KiB
Markdown
---
|
||
title: "Ollama+DeepSeek+OpenWebUI离线部署大模型"
|
||
type: source
|
||
tags: [ollama, deepseek, open-webui, 部署, 本地大模型]
|
||
date: 2025-03-14
|
||
---
|
||
|
||
## Source File
|
||
- [[raw/AI/详细！离线部署大模型：ollama+deepseek+open-webui安装使用方法及常见问题解决 1.md]]
|
||
|
||
## Summary
|
||
- 核心主题：使用Ollama + DeepSeek + OpenWebUI在本地/内网部署大模型的完整指南
|
||
- 问题域：如何在离线或内网环境中部署和使用大语言模型
|
||
- 方法/机制：Ollama安装 → DeepSeek模型拉取/导入 → OpenWebUI可视化界面部署 → API配置
|
||
- 结论/价值：Ollama提供极简本地LLM部署方案，OpenWebUI提供友好的Web界面，支持API调用和RAG知识库
|
||
|
||
## Key Claims
|
||
- Ollama硬件要求：1.5B模型需要4GB RAM，7B需要16GB RAM，32B需要64GB RAM；最佳配置为有独立显卡4GB+显存
|
||
- Ollama支持从HF（ HuggingFace）和魔塔社区直接下载第三方模型
|
||
- Ollama支持通过Modelfile从本地GGUF文件导入模型
|
||
- OpenWebUI支持聊天机器人、本地知识库、图像生成等丰富功能
|
||
- Docker部署Ollama可实现便捷的启停管理
|
||
|
||
## Key Concepts
|
||
- [[Ollama]]：开源本地大语言模型运行框架
|
||
- [[OpenWebUI]]：开源Web UI for LLM，支持Ollama等后端
|
||
- [[离线部署]]：在内网/无外网环境下部署LLM的方案
|
||
- [[Modelfile]]：Ollama的模型定义文件格式
|
||
|
||
## Key Entities
|
||
- [[Ollama]]：本地LLM运行框架
|
||
- [[DeepSeek]]：可本地运行的模型
|
||
- [[OpenWebUI]]：Web UI界面
|
||
|
||
## Connections
|
||
- [[Ollama]] ← 运行时 ← 本地LLM部署
|
||
- [[OpenWebUI]] ← 界面层 ← 本地LLM部署
|
||
- [[离线部署]] ← 部署方式 ← [[Ollama]]
|
||
|
||
## Contradictions
|
||
- 无明显冲突
|