Files
nexus/wiki/entities/Ollama.md
2026-04-18 03:18:06 +08:00

1.2 KiB
Raw Blame History

title, type, tags, date
title type tags date
Ollama entity
llm
ai
开源
2026-04-18

Aliases

  • Ollama
  • ollama

Description

Ollama 是一个开源的本地大语言模型运行框架,它提供了非常简单便捷的使用形式,让用户可以十分方便的在本地机器上部署和运行大型语言模型,从而实现免费离线的方式使用 LLM 能力,并确保私有数据的隐私和安全性。

Type

  • LLM 运行框架
  • 开源软件

Supported Models

  • DeepSeek-R11.5B、7B、8B、14B、32B、70B、671B
  • Qwen 系列
  • Llama 系列
  • bge-m3嵌入模型用于 RAG

Hardware Requirements

  • 1.5B 模型4GB RAM
  • 7B 模型8GB RAM建议 16GB
  • 13B 模型16GB RAM建议 32GB
  • 33B 模型32GB RAM建议 64GB
  • GPU建议 4GB 以上显存

Installation Methods

  • 直接安装Windows/macOS/Linux
  • Docker 容器部署
  • 离线安装

Ports

  • API 服务11434