nexus/wiki/sources/llm-terms-framework.md

title, type, tags, date

title	type	tags	date
大模型相关术语框架总结	source	LLM MCP Prompt RAG vLLM Token	2025-12-20

Source File

• raw/AI/大模型相关术语和框架总结｜LLM、MCP、Prompt、RAG、vLLM、Token、数据蒸馏.md

Summary

• 核心主题：大模型核心术语和技术框架
• 问题域：大模型领域术语众多难以系统理解
• 方法/机制：图解化梳理各术语关系
• 结论/价值：构建完整的大模型技术知识体系

Key Claims

• LLM：Large Language Model大模型，≥1B参数
• Prompt：输入给大模型的语句
• MCP：Model Context Protocol，标准化接口连接外部数据和工具
• Agent：LLM+MCP=智能体，大模型给出步骤，实际执行需配合MCP
• RAG：Retrieval Augmented Generation检索增强生成，解决幻觉问题
• Embedding：向量化，计算词与词之间的距离
• vLLM：高效推理框架，KV Cache+连续批处理提升GPU利用率
• Token：基本输入单元，1英文字符≈0.3 token，1中文字符≈0.6 token

Key Concepts

• LLM：大语言模型
• MCP：模型上下文协议
• Agent：智能体
• RAG：检索增强生成
• Embedding：向量化
• vLLM：高效LLM推理框架
• Token：大模型基本输入单元

Key Entities

Connections

• LLM ← uses ← Token
• LLM ← uses ← MCP
• Agent ← combines ← LLM + MCP
• RAG ← extends ← LLM

Contradictions