Files
nexus/wiki/entities/Ollama.md
2026-04-28 12:03:10 +08:00

1.3 KiB
Raw Blame History

title, type, tags, last_updated
title type tags last_updated
Ollama entity
ollama
本地大模型
开源
2026-04-28

Aliases

  • ollama
  • Ollama

Definition

Ollama 是一款本地大模型运行时工具,支持通过单一命令安装、管理和运行开源 LLM如 Qwen2.5-Coder、Llama、DeepSeek 等),提供 REST API 和多语言 SDK。

Key Facts

  • 官网https://ollama.com
  • 安装命令curl -fsSL https://ollama.com/install.sh | sh
  • API 默认端口11434
  • 默认监听127.0.0.1(仅本地)
  • 远程访问配置:设置 OLLAMA_HOST=0.0.0.0 环境变量
  • GPU 支持:安装 NVIDIA CUDA 后自动使用 GPU 加速,无需额外配置
  • systemd:安装后自动创建 systemd 服务,开机自启

Capabilities

  • CLI 交互模式:ollama run <model>
  • 模型管理:ollama listollama rm <model>ollama pull <model>
  • REST APIhttp://localhost:11434/api/chat
  • Python SDKpip install ollama
  • NodeJS SDKnpm install ollama

Used By

Sources