--- title: "大模型相关术语框架总结" type: source tags: [LLM, MCP, Prompt, RAG, vLLM, Token] date: 2025-12-20 --- ## Source File - [[raw/AI/大模型相关术语和框架总结|LLM、MCP、Prompt、RAG、vLLM、Token、数据蒸馏.md]] ## Summary - 核心主题:大模型核心术语和技术框架 - 问题域:大模型领域术语众多难以系统理解 - 方法/机制:图解化梳理各术语关系 - 结论/价值:构建完整的大模型技术知识体系 ## Key Claims - LLM:Large Language Model大模型,≥1B参数 - Prompt:输入给大模型的语句 - MCP:Model Context Protocol,标准化接口连接外部数据和工具 - Agent:LLM+MCP=智能体,大模型给出步骤,实际执行需配合MCP - RAG:Retrieval Augmented Generation检索增强生成,解决幻觉问题 - Embedding:向量化,计算词与词之间的距离 - vLLM:高效推理框架,KV Cache+连续批处理提升GPU利用率 - Token:基本输入单元,1英文字符≈0.3 token,1中文字符≈0.6 token ## Key Concepts - [[LLM]]:大语言模型 - [[MCP]]:模型上下文协议 - [[Agent]]:智能体 - [[RAG]]:检索增强生成 - [[Embedding]]:向量化 - [[vLLM]]:高效LLM推理框架 - [[Token]]:大模型基本输入单元 ## Key Entities ## Connections - [[LLM]] ← uses ← [[Token]] - [[LLM]] ← uses ← [[MCP]] - [[Agent]] ← combines ← [[LLM]] + [[MCP]] - [[RAG]] ← extends ← [[LLM]] ## Contradictions