34 lines
1.3 KiB
Markdown
34 lines
1.3 KiB
Markdown
---
|
||
title: "Foundation Models"
|
||
type: concept
|
||
tags: [AI, ML, foundation-model, generative-AI, LLM]
|
||
sources:
|
||
- public-cloud-learning-sessions-introduction-to-artificial-intelligence-ai-machin
|
||
- public-cloud-learning-sessions-opentext-ai-use-cases-20241126-160106-meeting-rec
|
||
last_updated: 2026-05-12
|
||
---
|
||
|
||
## Definition
|
||
Foundation Models（基础模型）是拥有数十亿参数的大规模预训练模型，是生成式 AI 的核心驱动力。Amazon 认为大多数客户体验和应用将被生成式 AI 重塑，而生成式 AI 的力量来自于基础模型。
|
||
|
||
## Key Properties
|
||
- **规模**: 数十亿参数（billions of parameters）
|
||
- **预训练**: 在大规模通用数据上预训练
|
||
- **可定制**: 支持微调（Fine-tuning）、持续预训练、RAG 等数据定制技术
|
||
- **多模态**: 可处理文本、图像、代码等多种模态
|
||
|
||
## Related Concepts
|
||
- [[Generative-AI]]：基础模型是生成式 AI 的核心技术
|
||
- [[RAG]]：检索增强生成，用于在基础模型上整合私有数据
|
||
- [[Amazon-Bedrock]]：提供基础模型访问的全托管服务
|
||
- [[Amazon-Titan]]：Amazon 开发的基础模型系列
|
||
|
||
## Examples
|
||
- Amazon Titan（Amazon Bedrock 内置）
|
||
- Anthropic Claude
|
||
- Meta Llama
|
||
- OpenAI GPT 系列
|
||
|
||
## Sources
|
||
- [[public-cloud-learning-sessions-introduction-to-artificial-intelligence-ai-machin]]
|