48 lines
1.2 KiB
Markdown
48 lines
1.2 KiB
Markdown
---
|
||
title: "Ollama"
|
||
type: entity
|
||
tags: [llm, ai, 开源]
|
||
date: 2026-04-18
|
||
---
|
||
|
||
## Aliases
|
||
- Ollama
|
||
- ollama
|
||
|
||
## Description
|
||
Ollama 是一个开源的本地大语言模型运行框架，它提供了非常简单便捷的使用形式，让用户可以十分方便的在本地机器上部署和运行大型语言模型，从而实现免费离线的方式使用 LLM 能力，并确保私有数据的隐私和安全性。
|
||
|
||
## Type
|
||
- LLM 运行框架
|
||
- 开源软件
|
||
|
||
## Supported Models
|
||
- DeepSeek-R1（1.5B、7B、8B、14B、32B、70B、671B）
|
||
- Qwen 系列
|
||
- Llama 系列
|
||
- bge-m3（嵌入模型，用于 RAG）
|
||
|
||
## Hardware Requirements
|
||
- 1.5B 模型：4GB RAM
|
||
- 7B 模型：8GB RAM（建议 16GB）
|
||
- 13B 模型：16GB RAM（建议 32GB）
|
||
- 33B 模型：32GB RAM（建议 64GB）
|
||
- GPU：建议 4GB 以上显存
|
||
|
||
## Installation Methods
|
||
- 直接安装（Windows/macOS/Linux）
|
||
- Docker 容器部署
|
||
- 离线安装
|
||
|
||
## Ports
|
||
- API 服务：11434
|
||
|
||
## Related Entities
|
||
- [[DeepSeek]]：支持的模型之一
|
||
- [[Open-WebUI]]：可通过配置集成
|
||
|
||
## Related Concepts
|
||
- [[LLM]]：大型语言模型
|
||
- [[Docker]]：容器化部署
|
||
- [[RAG]]：检索增强生成
|
||
- [[向量嵌入]]：文本向量化技术 |