Auto-sync: 2026-04-18 03:18

This commit is contained in:
2026-04-18 03:18:06 +08:00
parent da0f9c3594
commit b78ac81f2c
34 changed files with 981 additions and 21 deletions

View File

@@ -0,0 +1,51 @@
---
title: "详细离线部署大模型ollama+deepseek+open-webui安装使用方法及常见问题解决"
type: source
tags: []
date: 2025-04-18
---
## Source File
- [[raw/AI/详细离线部署大模型ollama+deepseek+open-webui安装使用方法及常见问题解决 1.md]]
## Summary
- 核心主题:本地离线部署大语言模型运行环境,实现免费私密的 LLM 使用体验
- 问题域:大模型本地部署、网络环境受限场景下的离线安装
- 方法/机制Ollama 安装、Docker 部署、模型离线下载、API 配置、WebUI 集成
- 结论/价值:通过 Ollama + DeepSeek + Open-WebUI 组合,可在本地搭建完整的私有 AI 对话基础设施
## Key Claims
- Ollama 是开源的本地大语言模型运行框架,可便捷在本地部署和运行大型语言模型
- 通过 Docker 部署 Ollama 可实现便捷的安装、更新与启停管理
- DeepSeek-R1 模型提供从 1.5B 到 671B 多种参数规模,可根据硬件配置选择
- Open-WebUI 提供基于浏览器的图形化界面,方便与本地 LLM 交互
- 国内网络环境可通过网盘、魔塔社区、HF 镜像站等渠道解决模型下载问题
## Key Quotes
> "你应该至少有 4 GB 的 RAM 来运行 1.5B 模型,至少有 8 GB 的 RAM 来运行 7B 模型16 GB 的 RAM 来运行 13B 模型,以及 32 GB 的 RAM 来运行 33B 模型。" — 硬件配置建议
> "假若需要本地私有化部署具有实用性的模型,应至少有独立显卡并有 4G 以上显存。纯 CPU 模式虽然也可以运行,但生成速度很慢,仅适用于本地开发调试体验一下。" — GPU 推荐
> "如果是在云服务器等拥有公网IP的环境上部署请谨慎做此设置否则可能导致 API 服务被恶意调用。" — 安全警告
## Key Concepts
- [[Ollama]]:本地大语言模型运行环境框架
- [[DeepSeek]]:中国开发的大语言模型,以开源和高效著称
- [[Open-WebUI]]:开源的大语言模型 Web UI 界面
- [[Docker]]:容器化部署技术
- [[RAG]]:检索增强生成,本地知识库构建技术
- [[向量嵌入]]RAG 使用的文本向量化技术
- [[bge-m3]]:中文嵌入模型,用于 RAG 知识库构建
## Key Entities
- [[DeepSeek]]:模型提供商,提供 DeepSeek-R1 系列模型
- [[Ollama]]:开源 LLM 运行框架
- [[Open WebUI]]:开源 Web 界面项目
## Connections
- [[Ollama]] ← runs ← [[DeepSeek-R1]]
- [[Open-WebUI]] ← connects_to ← [[Ollama]]
- [[Ollama]] ← hosts ← [[API Service]]
## Contradictions
- (暂无)