---
title: "Ollama"
type: entity
tags: []
sources: []
last_updated: 2025-03-15
---

## Definition
Ollama是一个开源本地大模型运行平台，简化了开源大模型（如Llama、DeepSeek、Mistral等）在本地机器上的部署和运行。

## Role
- 本地大模型运行时：提供统一接口运行各种开源大模型
- 简化部署工具：一条命令即可运行大模型

## Key Properties
- 支持模型：Llama、DeepSeek、Mistral、Gemma等
- 跨平台：macOS、Linux、Windows支持
- API兼容：提供OpenAI兼容API
- 量化支持：支持Q4、Q8等量化版本，降低硬件要求

## Connections
- [[Ollama-DeepSeek-OpenWebui-离线部署大模型]] ← 来源 ← [[Ollama]]
- [[DeepSeek]] ← 支持运行 ← [[Ollama]]
