feat(wiki): complete all remaining 85 raw files ingestion (auto-script)
This commit is contained in:
@@ -1,7 +1,7 @@
|
||||
---
|
||||
title: "Ollama DeepSeek OpenWebui 离线部署大模型"
|
||||
title: "Ollama+DeepSeek+OpenWebUI离线部署大模型"
|
||||
type: source
|
||||
tags: []
|
||||
tags: [ollama, deepseek, open-webui, 本地部署]
|
||||
date: 2025-03-14
|
||||
---
|
||||
|
||||
@@ -9,36 +9,30 @@ date: 2025-03-14
|
||||
- [[raw/AI/详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决 1.md]]
|
||||
|
||||
## Summary
|
||||
- 核心主题:Ollama + DeepSeek + Open WebUI 的本地大模型离线部署完整指南
|
||||
- 问题域:如何在国内网络环境下实现大模型的本地私有化部署,确保数据隐私和控制权
|
||||
- 方法/机制:Ollama 提供模型运行框架,支持本地部署多种模型;Open WebUI 提供 Web 界面;通过 Docker 或直接安装;支持从魔塔社区/HuggingFace 镜像下载模型
|
||||
- 结论/价值:纯 CPU 模式可运行 1.5B 模型(4GB RAM),GPU 模式可流畅运行 7B-32B 模型;本地部署确保数据不出网
|
||||
- 核心主题:Ollama+DeepSeek+OpenWebUI的本地大模型部署完整指南
|
||||
- 问题域:如何在本地环境离线部署大模型,确保数据隐私
|
||||
- 方法/机制:Ollama作为推理框架,DeepSeek作为模型,OpenWebUI作为可视化界面
|
||||
- 结论/价值:本地部署可实现免费离线使用LLM,同时保障数据隐私
|
||||
|
||||
## Key Claims
|
||||
- Ollama 支持 macOS、Windows、Linux 及 Docker 部署,模型管理命令丰富(run/pull/list/ps/rm 等)
|
||||
- 硬件需求参考:1.5B 模型需 4GB RAM,7B 需 8GB RAM+14GB 显存,14B 需 32GB RAM+26GB 显存,32B 需 64GB RAM+48GB 显存
|
||||
- 国内下载加速:支持从魔塔社区(modelscope.cn)和 HuggingFace 镜像站(hf-mirror.com)直接拉取模型
|
||||
- Open WebUI:开源 Web 界面,支持 ollama、OpenAI 等 API,可实现聊天机器人、本地知识库、图像生成等功能
|
||||
- API 安全建议:云服务器部署时增加 nginx API KEY 保护,避免服务被恶意调用
|
||||
- Docker 部署参考:docker-compose.yml 配置 OLLAMA_API_BASE_URL、WEBUI_NAME、ENABLE_OPENAI_API 等环境变量
|
||||
|
||||
## Key Quotes
|
||||
> "ollama 是一个开源的本地大语言模型运行框架,让用户可以十分方便地在本地机器上部署和运行大型语言模型" — 核心定位
|
||||
- Ollama支持多平台(macOS/Windows/Linux/Docker)
|
||||
- DeepSeek-R1各版本硬件要求:1.5B需4GB RAM,7B需16GB RAM+14GB显存
|
||||
- OpenWebUI提供纯浏览器访问的Web界面
|
||||
|
||||
## Key Concepts
|
||||
- [[本地LLM部署]]:在本地机器上运行大语言模型,确保数据隐私和安全的技术方案
|
||||
- [[Ollama]]:开源本地大模型运行框架
|
||||
- [[本地部署]]:在本地环境运行AI模型
|
||||
- [[Ollama]]:本地LLM推理框架
|
||||
- [[Open-Webui]]:Ollama的可视化Web界面
|
||||
|
||||
## Key Entities
|
||||
- [[Ollama]]:开源本地大模型运行框架
|
||||
- [[Open-Webui]]:开源 Web UI,为本地 LLM 提供图形化界面
|
||||
- [[DeepSeek]]:此文档重点部署的模型系列(DeepSeek-R1)
|
||||
- [[Docker]]:容器化部署工具,用于 ollama 和 open-webui 的便捷管理
|
||||
- [[Ollama]]:本地大模型运行框架
|
||||
- [[DeepSeek]]:开源推理模型
|
||||
- [[Open-Webui]]:开源Web UI
|
||||
|
||||
## Connections
|
||||
- [[本地LLM部署]] ← runtime ← [[Ollama]]
|
||||
- [[本地LLM部署]] ← webui ← [[Open-Webui]]
|
||||
- [[本地LLM部署]] ← container ← [[Docker]]
|
||||
- [[Ollama]] ← 推理框架 ← [[DeepSeek]]
|
||||
- [[Open-Webui]] ← 可视化 ← [[Ollama]]
|
||||
- [[DeepSeek]] ← 模型 ← Ollama集成
|
||||
|
||||
## Contradictions
|
||||
- 无已知冲突
|
||||
- 无冲突
|
||||
|
||||
Reference in New Issue
Block a user