Files
nexus/wiki/entities/Ollama.md

1.3 KiB
Raw Blame History

title, type, tags, sources, last_updated
title type tags sources last_updated
Ollama entity
本地大模型
AI
开源
推理
https://ollama.com
2026-04-15

基本信息

  • 类型:本地大模型推理引擎
  • 官网https://ollama.com
  • 支持模型Llama3/Mistral/Qwen2.5-Coder/Gemma 等
  • 代码专精模型qwen2.5-coder:7b4.5GBShell/Python/SQL/Repo 级代码理解能力强于通用 Qwen2.5

核心机制

  • REST API:通过 http://localhost:11434/api/generate 调用
  • 模型管理ollama pull 下载模型ollama list 查看已安装
  • 无 GPU 依赖:支持 CPU 推理(速度较慢)
  • 跨平台macOS/Linux/Windows 支持
  • 远程 APIOLLAMA_HOST=0.0.0.0 环境变量开放外部访问,供 n8n/OpenClaw/OpenWebUI 调用
  • GPU 加速CUDA 环境下自动使用 NVIDIA GPU无需额外配置

在 Wiki 中的角色

n8n 集成示例

URL: http://ollama:11434/api/generate
Method: POST
Body:
{
  "model": "llama3",
  "prompt": "分析以下产品信息:{{$json.title}},提取品牌、型号、价格区间"
}