--- title: "Ollama DeepSeek OpenWebui 离线部署大模型" type: source tags: [] date: 2025-03-14 --- ## Source File - [[raw/AI/详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决 1.md]] ## Summary - 核心主题:Ollama + DeepSeek + Open WebUI 的本地大模型离线部署完整指南 - 问题域:如何在国内网络环境下实现大模型的本地私有化部署,确保数据隐私和控制权 - 方法/机制:Ollama 提供模型运行框架,支持本地部署多种模型;Open WebUI 提供 Web 界面;通过 Docker 或直接安装;支持从魔塔社区/HuggingFace 镜像下载模型 - 结论/价值:纯 CPU 模式可运行 1.5B 模型(4GB RAM),GPU 模式可流畅运行 7B-32B 模型;本地部署确保数据不出网 ## Key Claims - Ollama 支持 macOS、Windows、Linux 及 Docker 部署,模型管理命令丰富(run/pull/list/ps/rm 等) - 硬件需求参考:1.5B 模型需 4GB RAM,7B 需 8GB RAM+14GB 显存,14B 需 32GB RAM+26GB 显存,32B 需 64GB RAM+48GB 显存 - 国内下载加速:支持从魔塔社区(modelscope.cn)和 HuggingFace 镜像站(hf-mirror.com)直接拉取模型 - Open WebUI:开源 Web 界面,支持 ollama、OpenAI 等 API,可实现聊天机器人、本地知识库、图像生成等功能 - API 安全建议:云服务器部署时增加 nginx API KEY 保护,避免服务被恶意调用 - Docker 部署参考:docker-compose.yml 配置 OLLAMA_API_BASE_URL、WEBUI_NAME、ENABLE_OPENAI_API 等环境变量 ## Key Quotes > "ollama 是一个开源的本地大语言模型运行框架,让用户可以十分方便地在本地机器上部署和运行大型语言模型" — 核心定位 ## Key Concepts - [[本地LLM部署]]:在本地机器上运行大语言模型,确保数据隐私和安全的技术方案 - [[Ollama]]:开源本地大模型运行框架 ## Key Entities - [[Ollama]]:开源本地大模型运行框架 - [[Open-Webui]]:开源 Web UI,为本地 LLM 提供图形化界面 - [[DeepSeek]]:此文档重点部署的模型系列(DeepSeek-R1) - [[Docker]]:容器化部署工具,用于 ollama 和 open-webui 的便捷管理 ## Connections - [[本地LLM部署]] ← runtime ← [[Ollama]] - [[本地LLM部署]] ← webui ← [[Open-Webui]] - [[本地LLM部署]] ← container ← [[Docker]] ## Contradictions - 无已知冲突