Files
nexus/wiki/entities/Ollama.md

756 B
Raw Blame History

title, type, tags, sources, last_updated
title type tags sources last_updated
Ollama entity
2025-03-15

Definition

Ollama是一个开源本地大模型运行平台简化了开源大模型如Llama、DeepSeek、Mistral等在本地机器上的部署和运行。

Role

  • 本地大模型运行时:提供统一接口运行各种开源大模型
  • 简化部署工具:一条命令即可运行大模型

Key Properties

  • 支持模型Llama、DeepSeek、Mistral、Gemma等
  • 跨平台macOS、Linux、Windows支持
  • API兼容提供OpenAI兼容API
  • 量化支持支持Q4、Q8等量化版本降低硬件要求

Connections