4.7 KiB
4.7 KiB
title, type, tags, date
| title | type | tags | date | ||||||
|---|---|---|---|---|---|---|---|---|---|
| Public Cloud Learning Sessions (OpenText) - Generative AI & Prompt Engineering - 20241112 | source |
|
2024-11-12 |
Source File
Summary（用中文描述）
- 核心主题：AWS 云上的生成式 AI 服务生态与 Prompt Engineering 基础实践
- 问题域：企业如何在 AWS 上利用自有数据构建差异化的生成式 AI 应用
- 方法/机制：AWS Generative AI 技术栈分层（基础设施→Amazon Bedrock→应用层），RAG/Fine-tuning/持续预训练三种模型定制技术，Prompt Engineering 四大组件与基础技巧（One-shot/Few-shot/Chain-of-Thought）
- 结论/价值：数据是企业差异化关键；Bedrock 保证数据不外泄；Amazon Q 提供开箱即用的业务助手与开发者工具
Key Claims（用中文描述）
- 生成式 AI 通过创造新体验、提升员工生产力、提取洞察、激发创造力四个维度创造商业价值
- 领域专属生成式应用的三大构建技术中，RAG 成本最低、最易实现，无需重训练即可连接多数据源
- AWS 生成式 AI 技术栈分三层：基础设施层（含 Trainium/Inferentia 专用芯片）、服务层（Amazon Bedrock）、应用层
- Amazon Bedrock 完全托管，不共享用户数据与提示词给模型提供商，并提供 Guardrails 过滤有害内容
- Prompt Engineering 是迭代过程，提示词应包含指令（Instruction）、上下文（Context）、用户输入、输出指示器四个组件
Key Quotes
"Your data is your differentiator and it is what makes the difference between generic application to a specific application that can actually bring business to your value." — Shikad Holtzman，阐述数据作为企业生成式 AI 差异化核心的重要性
"None of your data nor the prompts, not the data that you are using for customizing the model is being shared with the model providers." — Bedrock 数据隐私保障声明
Key Concepts
- GenerativeAI：能够生成新内容（文本、图像、代码等）的人工智能技术，通过创造新体验、提升生产力、提取洞察、激发创造力创造商业价值
- RetrievalAugmentedGeneration（检索增强生成）：连接多个数据源无需重训练模型即可构建领域专属应用，成本最低、最易实现的定制技术
- PromptEngineering：创建、设计和优化提示词以引导大语言模型响应的技术，确保输出准确性和相关性；包含 One-shot、Few-shot、Chain-of-Thought 等技巧
- AmazonBedrock：AWS 完全托管的生成式 AI 服务层，提供 Anthropic、Meta、Amazon 等多种基础模型，支持 RAG、Fine-tuning、Agents 和 Guardrails
- AmazonQ：AWS AI 助手，分为面向业务的 Amazon Q（连接多数据源进行搜索/总结/洞察提取）和面向开发者的 Amazon Q（代码生成/单元测试/代码迁移）
Key Entities
- ShikadHoltzman：OpenText 技术客户经理（以色列），本次学习会议主讲人，分享 AWS 生成式 AI 创新机会与 Prompt Engineering 实践
- OpenText：企业信息管理公司，主办本次 Public Cloud Learning Sessions
- AmazonSageMaker：AWS 全生命周期管理服务，用于构建、训练和部署基础模型；SageMaker JumpStart 提供公开基础模型和第三方模型访问
- Anthropic：Amazon Bedrock 提供的模型提供商之一（Claude 系列）
- MetaAI：Amazon Bedrock 提供的模型提供商之一（Llama 系列）
Connections
- RAG从入门到精通系列1：基础RAG ← related_to ← GenerativeAI（RAG 是构建领域专属生成式应用的核心技术）
- llms-rag-ai-agent-三个到底什么区别 ← related_to ← AmazonBedrock（Bedrock 是 AWS 上 RAG 和 Agent 的主要承载平台）
- 大模型相关术语和框架总结｜LLM、MCP、Prompt、RAG、vLLM、Token、数据蒸馏 ← contains ← PromptEngineering（该文总结了大模型相关术语，Prompt Engineering 是重要组成部分）
- AmazonQ ← builds_on ← AmazonBedrock（Amazon Q 开发者版构建于 Bedrock 之上）
Contradictions
- 与 llms-rag-ai-agent-三个到底什么区别 可能的视角差异：
- 冲突点：RAG 是否"最容易"的定制方案
- 当前观点（RAG 最便宜最易实现，无需重训练）
- 对方观点：RAG 系统复杂度（向量数据库、检索策略、chunk 策略）可能带来运维挑战
- 注：两者均认可 RAG 的核心价值，差异在于评估维度（成本/易用性 vs. 运维复杂度）