Auto-sync: 2026-04-18 03:18
This commit is contained in:
@@ -0,0 +1,51 @@
|
||||
---
|
||||
title: "详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决"
|
||||
type: source
|
||||
tags: []
|
||||
date: 2025-04-18
|
||||
---
|
||||
|
||||
## Source File
|
||||
- [[raw/AI/详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决 1.md]]
|
||||
|
||||
## Summary
|
||||
- 核心主题:本地离线部署大语言模型运行环境,实现免费私密的 LLM 使用体验
|
||||
- 问题域:大模型本地部署、网络环境受限场景下的离线安装
|
||||
- 方法/机制:Ollama 安装、Docker 部署、模型离线下载、API 配置、WebUI 集成
|
||||
- 结论/价值:通过 Ollama + DeepSeek + Open-WebUI 组合,可在本地搭建完整的私有 AI 对话基础设施
|
||||
|
||||
## Key Claims
|
||||
- Ollama 是开源的本地大语言模型运行框架,可便捷在本地部署和运行大型语言模型
|
||||
- 通过 Docker 部署 Ollama 可实现便捷的安装、更新与启停管理
|
||||
- DeepSeek-R1 模型提供从 1.5B 到 671B 多种参数规模,可根据硬件配置选择
|
||||
- Open-WebUI 提供基于浏览器的图形化界面,方便与本地 LLM 交互
|
||||
- 国内网络环境可通过网盘、魔塔社区、HF 镜像站等渠道解决模型下载问题
|
||||
|
||||
## Key Quotes
|
||||
> "你应该至少有 4 GB 的 RAM 来运行 1.5B 模型,至少有 8 GB 的 RAM 来运行 7B 模型,16 GB 的 RAM 来运行 13B 模型,以及 32 GB 的 RAM 来运行 33B 模型。" — 硬件配置建议
|
||||
|
||||
> "假若需要本地私有化部署具有实用性的模型,应至少有独立显卡并有 4G 以上显存。纯 CPU 模式虽然也可以运行,但生成速度很慢,仅适用于本地开发调试体验一下。" — GPU 推荐
|
||||
|
||||
> "如果是在云服务器等拥有公网IP的环境上部署,请谨慎做此设置,否则可能导致 API 服务被恶意调用。" — 安全警告
|
||||
|
||||
## Key Concepts
|
||||
- [[Ollama]]:本地大语言模型运行环境框架
|
||||
- [[DeepSeek]]:中国开发的大语言模型,以开源和高效著称
|
||||
- [[Open-WebUI]]:开源的大语言模型 Web UI 界面
|
||||
- [[Docker]]:容器化部署技术
|
||||
- [[RAG]]:检索增强生成,本地知识库构建技术
|
||||
- [[向量嵌入]]:RAG 使用的文本向量化技术
|
||||
- [[bge-m3]]:中文嵌入模型,用于 RAG 知识库构建
|
||||
|
||||
## Key Entities
|
||||
- [[DeepSeek]]:模型提供商,提供 DeepSeek-R1 系列模型
|
||||
- [[Ollama]]:开源 LLM 运行框架
|
||||
- [[Open WebUI]]:开源 Web 界面项目
|
||||
|
||||
## Connections
|
||||
- [[Ollama]] ← runs ← [[DeepSeek-R1]]
|
||||
- [[Open-WebUI]] ← connects_to ← [[Ollama]]
|
||||
- [[Ollama]] ← hosts ← [[API Service]]
|
||||
|
||||
## Contradictions
|
||||
- (暂无)
|
||||
Reference in New Issue
Block a user